Сергей Марков только что рассуждал о том, что искусственный интеллект — инструмент обоюдоострый, вроде молотка, которым можно построить дом, а можно проломить голову, как вдруг заговорил совсем о другом. Мы определенно живем в обучающей симуляции, заявил он ведущему. Какая-то цивилизация эпохи постсингулярности должна же как-то воспитывать своих детей и учить их решать сложные этические дилеммы — вот она и создала этот мир, в котором мы теперь «колбасимся».

Марков руководит управлением экспериментальных систем машинного обучения в SberDevices (входит в Сбер). Сам он назвал идею с обучающей симуляцией просто забавной байкой и заметил, что при желании можно придумать и другие. А затем сразу же набросал еще одну версию — уже из своей профессиональной практики.

Главная проблема современных разработчиков — тексты. Массивы данных для обучения моделей растут куда быстрее, чем объем написанного в интернете. Рано или поздно моделям перестанет хватать существующего материала, и этот дефицит почувствует каждый пользователь чат-ботов. В 2024 году исследователи из Epoch AI очертили конкретные сроки: если текущие темпы сохранятся, общедоступные тексты, созданные людьми, закончатся для обучения нейросетей где-то между 2026 и 2032 годами.

Читать дальше в Идеонике

Представьте шахматную программу, которая всегда находит идеальный ход. Ей для этого нужно всего несколько миллиардов лет вычислений. Играет ли такая программа в шахматы лучше человека?

Сергей Марков говорит: очевидно, нет. Он руководит управлением экспериментальных систем машинного обучения в SberDevices, части Сбербанка, и с помощью этой абсурдной программы показывает, почему один из самых цитируемых терминов в технологиях перестал что-либо значить. Термин этот — artificial general intelligence, или AGI, сильный искусственный интеллект.

Ставки тут практические. Рано или поздно какая-нибудь компания встанет и объявит, что создала AGI. Марков в этом почти уверен. Что вам при этом скажут и что это объявление будет означать на самом деле — две разные вещи.

Читать дальше в Идеонике

Если спрятать один конкретный факт в массиве текста и попросить языковую модель отыскать его, Gemini начинает ошибаться уже на рубеже в 50 000 токенов. При этом в технических характеристиках заявлено окно в целый миллион.

Подобные эксперименты ставит Михаил Бурцев — исследователь искусственного интеллекта, создатель проекта DeepPavlov в МФТИ, изучающий трансформеры и память нейросетей. Если очень грубо приравнять токен к одному слову, миллион токенов — это солидная стопка книг. Результаты тестов его научной группы показывают: модель в состоянии удержать такую стопку в памяти, но прочесть её по-настоящему уже не способна.

С этой проблемой сталкивался любой, кто хоть раз вёл долгую непрерывную переписку с нейросетью в течение дня. Через какое-то время ответы становятся всё более расплывчатыми, а модель начинает путаться в показаниях и противоречить сама себе. Практический совет Бурцева предельно прост: диалог стоит регулярно сбрасывать и начинать разговор с чистого листа, поскольку нейросеть «начинает путаться в собственных мыслях» и перестает отличать важное от второстепенного.

Читать дальше в Идеонике

Если бы ваша нервная система училась так, как большинство искусственных сетей, к голове пришлось бы подвести отдельную атомную электростанцию. Максим Таланов говорит об этом с улыбкой и сам же шутит, почему её у вас нет: «Мама забыла?» Нет, отвечает он себе, мама была в порядке. Просто она вам не нужна.

Стандартный метод обучения — обратное распространение ошибки — на каждом проходе переписывает все веса сети. Настоящая нервная система устроена экономнее. Она меняет синапсы медленно и только те, которые действительно нужно изменить. Остальные не трогает.

Таланов — исследователь Клинического исследовательского центра Neuralesi в Мессине и старший научный сотрудник института искусственного интеллекта в Нови-Саде. Он строит спайковые сети, которые генерируют импульсы, как нейроны, а не перемалывают числа. Его ставка — на то, что эту экономность можно воспроизвести в железе, а главный приз — тело: чип, вживлённый парализованному человеку, который помогает с нейрореабилитацией или возвращает утраченные функции.

Читать дальше в Идеонике

Где-то оператор вносит в базу год рождения 1880 вместо 1980. Кредитная модель читает эти данные и приходит к выводу, что заявитель не доживет до конца выплат. Заявка отклонена.

Сергей Марков приводит эту мелкую опечатку как иллюстрацию того, в чем он видит реальную опасность искусственного интеллекта. Марков — управляющий директор SberDevices, входит в группу Сбербанка и руководит экспериментальными системами машинного обучения. Он рассказывает эту историю не как случай из практики, а как пример. Суть в том, что у заявителя нет способа узнать, что именно пошло не так.

Задумайтесь, сколько решений о вас уже принимается таким образом. Вы подаете заявку на кредит, отправляете резюме, проходите через тысячи процессов, о которых даже не слышали. В каждом из них, говорит Марков, алгоритмы выносят вердикты, и по силе влияния на вашу жизнь они зачастую сопоставимы с решением суда. Отказ в кредите может означать, что от этого зависит здоровье вашей семьи.

Читать дальше в Идеонике

Миллион токенов — примерно столько лучшие чат-боты могут удерживать в памяти одновременно. Один человеческий геном, нарезанный на слова по десять букв, — это 300 миллионов.

Михаил Бурцев, исследователь ИИ и основатель проекта DeepPavlov в МФТИ, как раз построил трансформер, который переносит память из одного фрагмента текста в другой. Модель отвечала на вопросы по 50 миллионам токенов — это пять «Британских энциклопедий». Дальше началось неловкое: молоток есть, а гвоздей в обработке языка не осталось. Приходится «бегать с этим молотком», пока не найдёшь, по чему стукнуть.

Гвоздь уже лежал в каждой клетке вашего тела. ДНК — это строка из четырёх букв, и эта строка определяет заметную долю риска болезней, от которых ежегодно умирают миллионы людей. Бурцев оценивает наследственную составляющую таких заболеваний в 30–80 процентов. Сегодняшние методы объясняют примерно половину.

Читать дальше в Идеонике

Некоторые дети рождаются слепоглухими. Тем не менее их удаётся обучить языку, а выпускники Загорского экспериментального интерната даже оканчивали МГУ. Никто не мог показать им солнце или на словах передать его тепло так, чтобы они его услышали. Они узнавали мир исключительно через текст.

Специалист по искусственному интеллекту и создатель проекта DeepPavlov в МФТИ Михаил Бурцев вспоминает об этих детях, когда рассуждает о чат-ботах. Языковые модели находятся примерно в том же положении: у них нет ни глаз, ни ушей, ни кожи. На входе — только текст и одна-единственная задача: угадать следующее слово. Сам Бурцев прямо называет такую работу абсолютно дурацкой.

Казалось бы, столь примитивное задание должно порождать лишь бессмысленного попугая. Но на деле получается собеседник, у которого спрашивают советов, с которым спорят и в которого порой даже влюбляются. Когда нейросеть продолжает вашу фразу, что происходит по ту сторону экрана? Она просто перебирает заученные шаблоны или действительно собирает из текста модель окружающего мира? От ответа зависит, насколько вообще можно верить её суждениям.

Читать дальше в Идеонике

Спрячьте один-единственный факт в длинном документе и попросите языковую модель его найти. Михаил Бурцев, специалист по искусственному интеллекту и создатель проекта DeepPavlov в МФТИ, регулярно ставит такой эксперимент, постепенно увеличивая объем текста. На бумаге Gemini способна переварить миллион токенов. На деле она начинает спотыкаться и терять факт уже после 50 или 100 тысяч. Для подобных задач модель эффективно использует от силы 5–10% от заявленного контекстного окна.

Если усложнить вопрос, результаты падают еще сильнее. Попробуйте спросить модель о чем-то, что требует сопоставить два разрозненных факта в тексте, и полезная глубина памяти тут же сократится. А если фактов три, сеть с трудом удерживает связность уже на отрезке всего в пару тысяч слов.

Каждый из нас наверняка сталкивался с этим в чатах: рано или поздно приходится открывать новое окно диалога просто потому, что бот начинает путаться в собственных мыслях и теряет способность отличать важное от второстепенного. Но есть и скрытая цена, о которой пользователи редко задумываются. Механизм внимания сравнивает каждое слово текста с каждым другим, из-за чего вычислительная сложность растет пропорционально квадрату длины контекста. Длинный диалог оборачивается гигантскими счетами за электричество, перегрузкой видеопамяти и долгим ожиданием ответа.

Читать дальше в Идеонике