Представьте шахматную программу, которая всегда находит идеальный ход. Ей для этого нужно всего несколько миллиардов лет вычислений. Играет ли такая программа в шахматы лучше человека?
Сергей Марков говорит: очевидно, нет. Он руководит управлением экспериментальных систем машинного обучения в SberDevices, части Сбербанка, и с помощью этой абсурдной программы показывает, почему один из самых цитируемых терминов в технологиях перестал что-либо значить. Термин этот — artificial general intelligence, или AGI, сильный искусственный интеллект.
Ставки тут практические. Рано или поздно какая-нибудь компания встанет и объявит, что создала AGI. Марков в этом почти уверен. Что вам при этом скажут и что это объявление будет означать на самом деле — две разные вещи.
Словосочетание придумал Марк Губруд, который использовал его в конце 1990-х в статье о военном применении нанотехнологий. Маркову эта деталь кажется забавной. Идея Губруда была далёкой приятной мечтой: однажды мы построим универсальные системы, которые, как человеческий мозг, смогут решать широкий круг интеллектуальных задач.
Как мечта это работает. Как измерительный прибор — рассыпается, едва к нему прикоснёшься. Претензия Маркова в том, что определение не доведено до конца с обеих сторон.
Начнём с «любая задача, которую может решить человек». Какой человек? Разные люди решают разные задачи. Машина должна соответствовать среднему человеку или эксперту? Может, есть задача, которую на Земле способен решить только один человек. Его мы тоже считаем?
Теперь «решить». Сколько времени на это можно потратить и какой ценой по энергии? Вот тут и появляется шахматная программа. Формально она находит лучший ход, но никто не назовёт её шахматным мастером. Попробуйте превратить фразу Губруда в тест, говорит Марков, и вы сядете в лужу. Все в этой области это знают, включая Сэма Альтмана.
Статья исследовательницы Мередит Рингел Моррис, опубликованная в Proceedings of Machine Learning Research в июле 2024 года, указывает на те же две дыры: «какие задачи?» и «какие люди?». Её ответ — система оценки, которая раздельно измеряет производительность и универсальность.
Ответ Альтмана был другим. В версии Маркова это компания, которая говорит: спасибо, Губруд, название маркетинговое, но определение мы напишем сами. И написала.
И они там в своих переговорах с Майкрософтом дошли уже до того, что AGI у них, это, значит, система, которая сможет, там, миллиард долларов заработать.
— Сергей Марков, «Подкаст Глеба Соломина», 08:59
Марков говорит, что на удивлённое «серьёзно?» ведущего последовал серьёзный ответ. Он ссылается на утечку из OpenAI, которая появилась за неделю до разговора. В ней компания обсуждает систему, достаточно хорошую, чтобы, будучи превращённой в работающий сервис, она могла заработать миллиард долларов.
Пресса называла цифры и побольше. Business Insider сообщал в декабре 2024 года, что OpenAI и Microsoft подписали соглашение, по которому AGI определяется как система, способная приносить 100 миллиардов долларов прибыли. У Маркова — миллиард, у Business Insider — сто. В любом случае критерий — финансовый доход.
Заметьте, что произошло с вопросом. «Может ли машина мыслить как человек?» — на это трудно ответить, а банковский счёт проверить легко. Контракт может проверить банковский счёт.
Марков не одобряет такой подход, но понимает мотив. Крупные публичные компании хотят первыми объявить о создании AGI. Он ставит на то, что кто-то сделает это в 2026 году, или к 2027–2028 самое позднее. Вопрос в том, что будет в этом объявлении.
Он называет это спекуляцией, рыночно-маркетинговым ходом, который питается недоопределённым термином. Реальность менее аккуратна. Сегодняшние большие языковые модели по-прежнему очень плохо справляются с некоторыми классами задач, и у них есть ряд довольно базовых ограничений. Всё это, добавляет он, не отменяет прогресса, который он называет огромным.
Так что, когда появится заголовок, спросите, какой AGI имеется в виду: универсал, похожий на мозг, как у Губруда, или тот, что приносит миллиард долларов?
