Leela Chess Zero (lc0): турниры, партии, рейтинги...

Лилаштейн в матче на chess.com, в котором белые играли без пешки, разгромила Стокфиш 10.5 на 5.5!

Стокфиш начальные позиции оценивал как 2 пешки в пользу черных. При этом проиграл черными 2 партии из 8! При 3 победах. Белыми проиграл 6 партий из 8 при 2 ничьих.

Победы Лилаштейн без пешки:

Интересно, это что вначале такое было. Прогон коней в исполнении Лилы ещё можно понять, но от Стокфиша я не ожидал такого. Да и вообще эти ИИ в последнее время издеваются над нами людьми. Мы пытаем умы над дебютной теорией, а они вытворяет всякие такие штуки свойственные новичкам и говорят, что мол и так можно выигрывать. То в эндшпиле чудила Лила, а теперь ещё и в дебюте. А Сток походу от неё заразился уже.

почему не Сток 11? он сильнее Лилы

Это Вы серьезно спросили, или шутите?
Было мероприятие, называется игра с гандикапом в пешку, в 16 партий (без а2, b2, c2....h2).
Для того, чтобы не задавать фиксированную позицию без определенной пешки, был использован известный трюк, когда конь забирает нужную пешку и отправляется на базу. Иными словами движки начали играть с 9-го хода, а до этого была дебютная книга.

В указанных партиях играл Стокфиш от 8-го апреля этого года, который новее Стокфиша 11 на 4 месяца.
И откуда информация о том, что SF11 сильнее LCZero? На данный момент Лила прилично опережает любую версию Стокфиша, включая самые последние от 6 мая.
Единственное, что в том матче Презрение было установлено на значение 100, что против нейронных сетей просто самоубийство.

А, теперь ясно. Остаётся только исправить чудачество Лилы в эндшпиле. Не выигрывает рациональным способом ни одну партию.

—- добавлено: 9 май 2020, опубликовано: 9 май 2020 —-

Полагаю, здесь на форуме сидят и разработчики Лилы (кто-то об этом писал). У меня вопрос знатокам. После победы на 17 чемпионате TCEC можно ли говорить, что Лила теперь окончательно и бесповоротно совершила отрыв от Стока и в будущем этот отрыв будет только увеличиваться? Или ещё рано об этом говорить.

Это больше эстетическая проблема. Так как нет особого смысла анализировать эндшпиль, в котором Лила начинает троллить. Но работа над более эффективной реализацией ведется, запущены тесты, в ближайшие месяцы должны будем увидеть более рациональные реализацию от Лилы.

Если говорить о соотношениях сил, то TCEC 17 не показатель, это лишь небольшой тест из 100 партий.
Лила обошла Стокфиш на +/- равном железе где-то с января этого года, до этого момента сохранялся примерный паритет. На текущий момент движки продолжают свое развитие, но мяч на стороне Стокфиша. Так как обучение T60 подходит к концу и из нее уже мало что можно выжать. По ответвлениям тоже пока не ясно, но сети определенно готовятся, и скорее всего мы увидим что-то лучшеe чем SV-3010 (сеть, что играла в TCEC 17), но там тоже не должно быть очень большой прибавки в Elo.
Также ожидается прирост КПД в скорости у Лилы для видеокарт Nvidia RTX. Новый код обещает прибавку в 50-60% в скорости, но сейчас есть небольшие технические сложности и проблемы с драйверами Nvidia, думаю что ожидать прибавку следует не ранее чем через 2 месяца.
Пока как-то так получается. Большей информацией, к сожалению, не располагаю.
Что касается Стокфиша, то проект все еще активно развивается, ребятам удается держать планку в 50 Elo в год уже несколько лет подряд, и этот год, скорее всего, не станет исключением. В отличии от Лилы, Стокфиш развивается более линейно: без скачков, без перезапусков тренировочных сетей. Поэтому за счет ожидаемого застоя у Лилы, Стокфиш может вырваться вперед. К слову, та сеть, что играла в Суперфинале TCEC уже довольно старая - 2-х месячной давности, и пока ничего сильнее проект LCZero предложить не может.

Сегодня прочитал интервью разработчика Лилы где он указывет, что чистый ИИ наврядли когда-нибудь обойдёт грубый счёт Стокфиша. Поэтому здесь многое будет определяться тем насколько эволюционируют видеокарты в будущем. Если они по вычислительной мощности хотя бы приблизятся в будущем к обычным процессорам, тогда Стокфишу и другим движкам ничего не светит. Поскольку глубокий счёт + понимание шахмат Лилы будет несопоставимо лучше, чем просто глубокий счёт Стокфиша. В общем то эту теорию и доказал Альфазеро у которого было 2 этих козыря, а у Стока лишь один. По мне, так будущее однозначно за движками ИИ. Лично для меня Лила открыла новое дыхание в шахматах, потому что её партии очень интересные. Даже интереснее белковых шахматистов. Теперь у меня 2 фаната в шахматах: Магнус и Лила

Кто из них будет лучшим по рейтингу в общем-то неважно. Результат партии - это не тоже самое, что и полезность движка. Мы неоднократно видели, когда Лила делает грубые ошибки и проигрывает в простых позициях для обычных AB движков, также Лила зачастую не реализует выигранные позиции. Получается, что рейтинг сильно искаженно показывает полезность этого движка.
Что касается будущего, то оно уже настало, и Лила практически обязательна для любого профессионального шахматиста, но при этом сильный AB движок также необходим.
Возможно через какое-то время появятся хорошие гибриды и отпадет необходимость использовать 2 движка.

Вроде бы он в какой то степени уже давно есть, кажется старый Лилаштейн (но могу в названии ошибиться) позволял подключить внешний ab движок, который не давал сделать очень грубые ошибки. А вообще конечно, даже если исключить "зевки" Лилы - это бы на 50 Эло повысило ее уровень.
Может быть как то можно найти ход по большой сети, а потом его проверить на маленькой.

Это был LeelaFish, и он сделал прямолинейно. Стокфиш работал только на одном потоке и немного бустил policy head для Лилы. Слабенькая реализация. Реальный гибрид будет намного сильнее.

Вы написали, что обучение Т60 подходит к концу. Я так понял, что возможности этой сети уже исчерпаны. А разве не будет следующей сети, более разветвлённой. Проще говоря будет ли Т70, Т80, Т90, Т100 и т.д? Извиняюсь если что-то недопонимаю.

—- добавлено: 10 май 2020, опубликовано: 10 май 2020 —-

Народ, ещё вопрос ради интереса. Как вы думаете, нынешняя Лила сравнима по силе с тем Альфазеро 2 летней давности? Или вы думаете, что она сильнее (или слабее) его?

Нынешняя Лила сильнее АльфаЗеро примерно пунктов на 100. АльфаЗеро выигрывала в матчах против Стокфиша 8 с результатом в диапазоне где-то 50-70 пунктов перевеса. А лучшие нынешние программы против того же Стокфиша 8 набирают около 150 пунктов.

Если судить по росту самоЭло то ещё все таки не исчерпаны, и рост в несколько десятков Эло все ещё возможен, к тому же для обычных одинарных GPU вполне могут быть обучены сети меньшей размерности на сильных играх, что может дать ещё дополнительный прирост.
Обучение ещё большей сети конечно возможно, но даже если и обучение начнется с максимального уровня игр созданных при обучении T60, то все равно обучение займет далеко не один месяц, а может быть даже 6 или больше (а с нуля - так вообще - 2-3 года).
Насчет сравнимости тут важно на чем и как сравнивать, но в целом примерно равны, или даже Лила чуть сильнее

Кто следил,чем дело закончилось? Скрин сделал на этом месте и далее что-то у них заглючило и данные не менялись хотя партии шли:

Провел небольшой тест небольшой сети 10х128 и DeepRybka4.1 на GT730 и C2D E8400, то есть все примерно уровня 7-8 летней давности по оборудованию, да и проги примерно того же времени (я думаю, что сеть размером 10х128 вполне можно было бы в то время натренировать, даже, если бы на это ушел целый год).
Уровень движки показали почти одинаковый,с точностью несколько десятков Эло

В то время не умели тренировать такие глубокие сети. Нужные технологии появились только в 2016 году.

Это скорее соответствует оборудованию 9 - 11 летней давности. А GT730 близка по характеристикам к GTX470, GTX 480 того времени. Кстати, и четвертая Рыба вышла в мае 2010 года.

Ну не знаю насчет технологий, но CUDA уже тогда была и вроде ничего особо не мешало и тогда тренировать, другое дело, что Гугл пинок хороший не дала.
Но мораль такова, что даже если бы и дала, то вряд ли NN движки тогда были бы лучше Рыбки 4, а скорее примерно равны ей.

Я со своей стороны полагаю, что в 2010 году сеть 10х128 до уровня Рыбки 4 - тогдашнего топа, не натренировать. Никак.

Смотрите - чтобы Гугл дал пинок в виде готового решения, как в октябре 2017 года, он должен к 2010 году уже в течении двух лет делать эксперименты, используя TPU. Которого у него конечно не было в 2010 году, как и за два года до этого.

Вторая проблема - технологии. Если я сейчас правильно помню, то Гугл использовал в 2015 году только одну из трех ключевых технологий решивших проблему затухания градиента при тренировке сети. Эти технологии появились как раз на протяжении 2015 года. А без их использования любой обучающий сигнал затеряется где-то в середине сети и таким образом сеть не протренируется. Сеть из 20-ти слоев (условно 10-ти блоков) слишком глубокая для 2010 года.

Даже Гуглу в 2015 году, используя всю мощь своих TPU, пришлось использовать неглубокие сети из 12-ти слоёв (условно 6х256) и тренировать их пол года, чтобы получить относительно средние результаты. Пусть это игра го, но и в шахматах такой сетке, полученной в тех условиях, до современной 10х128 не дотянуться.

Здесь надо ещё упомянуть, что и на протяжении 2010 - 2014 годов велось много исследований. За это время разные группы провели множество экспериментов и адаптировали много старых технологий к современным условиям.

Третья проблема - железо. TPU образца 2015 года проектировались некоторое время и изготавливалась уже на устаревших техпроцессах. Если бы Гугл занялся ими на 5 лет раньше, TPU получились бы гораздо хуже. В разы, и может быть даже в десятки раз. Просто не удалось бы разместить достаточное число транзисторов на пластине кремния, как и достигнуть высоких частот. Но даже такого TPU в 2010 году не существовало.

Конечно CUDA в 2010 году уже была достаточно отработана. Но во сколько раз топ видеокарт 2010 года - GTX 480 медленнее TPU образца 2015 года? В сто раз? Таким образом не пол года, а 50 лет потребуется Гуглу чтобы натренировать даже 6х256.

В общем, в условиях 2010 года придется использовать максимально мелкую сеть - скорее всего 4х32 или даже меньше. И технологии 1988 - 2009 годов. Со всеми вытекающими.

TPU тогда не было, TPU первой версии появились только в 2016м. Именно поэтому матч AlphaGo — Ли Седоль игрался на процах и видюхах.
Иными словами всю работу они проделали именно на видеокартах, с помощью TPU получили лишь буст в виде zero версии.

Вся проблема в том, что они начали со сложной игры - го, но если бы им пришла идея сделать нн шахматы в 2010 - с момента своего основания, они бы их сделали. На видеокарте из 2010-го можно получить 1000 н/c на сети 10x128, значит 5к видиокарт могут полностью обучить (миллион игр) такую сеть за 9 часов. Иными словами по железу 2010-го никакой вообще проблемы нет, сначала бы они обучались на партиях, потом бы дошли до zero-подхода. Да и прогресс абсолютный чекать довольно просто - сравнивать силу игры с уже существующими чесс-движками высокого уровня. Они бы сразу увидели что получается годнота.

Понятно что в 2010 году математики для обучения таких глубоких сетей еще не было, но такие проблемы решаются по мере их поступления, уровень математики для machine learning не весть какой сложный, со своей ресерч командой они как раз бы этим и занялись.

Другое дело что никому это в голову не приходило. Но могли ли в принципе в 2010 году сделать нн движок сильнее рыбки? Конечно.

https://3dnews.ru/933239 от 21.05.2016:

——————————————————————————————

https://3dnews.ru/933239 от 21.05.2016:

https://discovery.ucl.ac.uk/id/eprint/10045895/1/agz_unformatted_nature.pdf

И даже если видюх будет всего 500, а надо игр 5 млн (что б Рыбку обойти), то на это потребуется всего 50х9/24 суток, то есть менее 3 недель, к тому же можно первый миллион игр найти где нибудь ещё и обучить на них.

Это видимо основная проблема

Как я уже писал выше, в то время не было нужных технологий, поэтому и миллиард игр не помогли бы.

Почему-то в 2015 году их ресерч команда не смогла разработать нужные технологии и пришлось им тренировать относительно небольшую сеть полгода. Что уж говорить про 2010 год. Вообще говоря, заменить десять лет развития и работу сотен исследовательских команд всего одной ресерч командой просто только на словах.

Недостаточно просто никидать ссылок из поиска, нужно еще уметь работать с информацией, сейчас я это сделаю за вас.

Ну да, сырая пре v1 версия, которую они использывали в поиске или стрит вью, для чего собственно их и разрабатывали, попутно тестируя. Дип майнду они стали доступны только в 2016-м, после матча с Ли Седолем.

Ну с этим-то бесполезно спорить, это слишком легко проверяемая информация, тем более что я следил за всем этим в режиме реального времени и прекрасно знаю, что матч этот игрался именно на процессорах и видеокартах. Давайте проведем эксперемент, вводим:
lee sedol vs alphago tpu не позже 1 апр. 2016
И получаем ноль(0) новостей, в которых есть упоминание tpu или что матч игрался на tpu. Теперь вводим
lee sedol vs alphago gpu не позже 1 апр. 2016
и вуаля, десятки статей с упоминанием 1,202 CPUs and 176 GPUs или 1920 CPUs and 280 GPUs. А еще можно зайти на википедию и посмотретть там.
Учитывая что статья на 3dnews в конце мая, это следует понимать как то, что TPU стали частью системы АльфаГо уже после того, как она обыграла Седоля. В любом случае у них нет ссылок на какой либо первоисточник, да и нет никакого первоисточника, который бы это утверждал (что TPU стали частью системы до победы над Ли).

Недостаточно просто нагуглить и кинуть ссылку с ключевыми словами, надо еще понимать что там написано.
А написано там, что это было в 2017-м году, когда они сравнивали AlphaGo Fan, AlphaGo Lee с zero версией, что бы понять силу Альфа го зеро. И разумеется они запустили старые версии на TPU, потому что тогда они у них уже были в наличии.

Так что, подводя итог, скажу еще раз: всю разработку альфа го до стадии победы над человеком(лучшим) дип майнд провел на видеокартах, без доступа к TPU.

Это только ваши предположения. По факту TPU использовались в 2015 году и вполне могли использоваться Дип Майнд.

Естественно, информация о TPU не могла быть озвучена, до того, как устройство было официально представлено.

Как следует понимать - это ваша интерпретация. Передо мной же два источника - один от официальных лиц Google, второй от авторов АльфаГо. Информация в обоих источниках совпадает, и она вполне однозначная.

Данных нет иными словами, которые бы подтверждали ваши слова о том, что Дип Майнд использовали TPU в 2015-м.
Зато есть данные, что они стали их использовать после оффициального релиза в 2016 и самое главное, есть однозначная информация что матч АльфаГо-Ли игрался на большом колличестве обычных видеокарт и процессорах. Зачем им это, если у них были TPU. Тут 2 и 2 сложить элементарно. К тому же нет никакой проблемы обучить даже zero версию на видеокартах, у команды лилы первые сети были полностью обучены чуть дольше чем за месяц, причем основной вклад внесли не самые новые видяхи по меркам 17-го без tensor cores.
Понятно, что на 100% доказать что-то очень сложно, но как бы вот информация, пусть по ней каждый делает вывод.

Ссылки я уже приводил. Вот ещё одна:
https://cloud.google.com/blog/produ...arges-machine-learning-tasks-with-custom-chip

Не стоит утверждать, что TPU в 2015 году не существовало. Но в любом случае пара-тройка месяцев не так важна. Очевидно, что для получения хорошей программы Дип Майнд потребовалось не 9 часов, а четыре года непрерывной работы - с начала 2014, и до начала 2018 года, на недоступном в 2010 году оборудовании и неизвестных тогда методиках. На эти методы и оборудование было положено ещё больше трудов множества других людей.

Даже, несмотря на то, что видеокарта слаба (2Гв) - результаты Лилы впечатляют. В миттельшпиле она почти всегда имеет перевес, но не всегда реализовывает преимущество в эндшпиле.



партии

не смотря ролик, могу успокоить Муцио...
2...f5 не проигрывает

Везде ничья © Комс

Чудовищное что-то.

Это точно та самая супер-пупер Лила? В блиц играет примерно на уровне нирваны и демолито. До стокфиша ей, как раком до луны. Качал здесь https://github.com/LeelaChessZero/lc0/releases/tag/v0.26.1

вы отстали от жизни , качать надо отсюда https://github.com/LeelaChessZero/lc0/releases/tag/v0.26.2
а сеть например отсюда https://storage.lczero.org/files/networks-contrib/J92-190
для блица можно взять поменьше https://www.comp.nus.edu.sg/~sergio-v/new/128x10-t60-2/128x10-t60-2-5300.pb.gz

не мешай ему, он и без сети неплохо тестирует ))

Не отстал, на официальном сайте указано, что 26.1 последняя стабильная версия https://lczero.org/play/download/
Именно поэтому не стал устанавливать более новую.

Этой сети не хватает, чтобы Лила играла хотя бы посильнее, чем Демолито, и не допускала таких чудовищных ошибок, как в партии с Гудини?