В разговоре с профессором Ханной Фрай сооснователь DeepMind Демис Хассабис рассказал, почему создание общего искусственного интеллекта (AGI) требует не только мощности, но и воображения, как симуляции помогут понять происхождение жизни и почему человечеству стоит готовиться к переменам, которые в десять раз масштабнее промышленной революции.

В индустрии ИИ часто спорят о том, что важнее: гигантские вычислительные мощности или новые архитектуры нейросетей. Хассабис убежден, что истина посередине. Половина усилий DeepMind направлена на масштабирование уже существующих моделей, а вторая половина — на фундаментальные исследования и поиск прорывных идей. Без такого баланса, по его мнению, до AGI не добраться.

Этот подход становится особенно важным сейчас, когда, по выражению Хассабиса, «ландшафт становится сложнее». Если несколько лет назад можно было двигаться вперед за счет одной лишь инженерии, сегодня этого недостаточно. Нужно сочетать ее с глубокой наукой. Именно такое сочетание позволило DeepMind создать трансформеры, AlphaGo и AlphaZero — технологии, которые определили развитие ИИ на годы вперёд. И именно на эту комбинацию Хассабис делает ставку в будущем.

Идея «рекурсивных задач» занимает особое место в философии DeepMind. Речь идет об открытиях, которые запускают цепную реакцию других открытий. Лучший пример — AlphaFold. Когда система научилась предсказывать структуру белков, это не просто решило одну сложную задачу, а открыло дорогу к новым методам в биологии и медицине. Сейчас проекту почти пять лет, и его влияние только растет.

Но Хассабис смотрит дальше. Он уверен, что ИИ поможет создать материалы, которые сегодня кажутся фантастикой. В списке приоритетов — сверхпроводники, работающие при комнатной температуре, и аккумуляторы нового поколения. Еще одна грандиозная цель — термоядерный синтез. DeepMind углубляет сотрудничество с Commonwealth Fusion, чтобы с помощью нейросетей управлять раскаленной плазмой внутри реакторов. Если все получится, человечество получит практически неограниченный источник чистой энергии.

А дешевая энергия, в свою очередь, откроет доступ к воде через опреснение, позволит производить ракетное топливо из морской воды и решит множество других проблем, которые сегодня упираются в затраты. Так рекурсивные задачи выстраиваются в цепочку, ведущую к миру изобилия.

Параллельно DeepMind помогает коллегам из Quantum AI с кодами коррекции ошибок — одной из главных головных болей квантовых вычислений. А в перспективе квантовые компьютеры могут пригодиться и самому ИИ, замыкая круг взаимовыгодного сотрудничества.

Современные языковые модели ставят ученых в тупик. ИИ может блестяще решать задачи международных математических олимпиад, но при этом допускать глупые ошибки в простой логике или не уметь играть в шахматы. Хассабис называет это явление «рваным интеллектом» (jagged intelligence). Системы демонстрируют провалы в производительности: в одних областях они на уровне доктора наук, а в других — школьника.

Причины могут быть разными: иногда модель буквально не «видит» все буквы из-за того, как работает токенизация, иногда проблема глубже, в несогласованности рассуждений. Хассабис считает, что решить эту проблему помогут системы, которые на этапе ответа тратят больше времени на размышления, перепроверку и использование внешних инструментов. Но пока, по его оценке, мы прошли лишь половину пути.

Особые надежды он возлагает на математику. Проекты вроде AlphaGeometry и AlphaProof учат ИИ строго следовать логике. В отличие от текста, математические выкладки можно проверить на абсолютную точность. Если ИИ научится рассуждать с такой же строгостью, он станет надежным помощником в физике и биологии, где цена ошибки слишком высока.

Тексты содержат огромное количество знаний, но есть вещи, которые невозможно описать словами. Например, как ощущается полет мяча или как движется жидкость. Хассабис называет своей «самой давней страстью» создание мировых моделей — систем, которые постигают пространственную динамику, причинно-следственные связи и интуитивную физику.

Именно для этого DeepMind разрабатывает видеомодели Genie и Veo. Они не просто генерируют картинку, а пытаются воспроизвести механику мира. Если система может создать реалистичное видео, значит, она усвоила законы физики, по крайней мере на уровне наблюдателя.

Особенно интересен эксперимент, где два ИИ взаимодействуют друг с другом: агент Simmer помещается в мир, который на лету генерирует Genie. Агент действует, а мир подстраивается под него. Получается бесконечный цикл обучения, где задачи становятся всё сложнее. Это может стать началом любопытного обучающего цикла с почти бесконечным количеством обучающих примеров». В играх это позволит навсегда забыть о скучных NPC, а в робототехнике — научить машины действовать в реальной среде.

Правда, пока физика в таких симуляциях не идеальна. При детальной проверке на соответствие законам Ньютона модели ошибаются. Следующий шаг — создание специальных бенчмарков, где ИИ будут проверять на простых задачах вроде катящихся шариков. Только после этого симуляциям можно будет доверять в науке и технике.

Хассабис идет еще дальше. Он мечтает использовать симуляции, чтобы заново запустить эволюцию и понять, как возникали сложные социальные структуры и само сознание. Он вспоминает эксперименты экономистов в Санта-Фе, где в простых сеточных мирах при правильных стимулах у агентов спонтанно появлялись рынки и банки.

Такие эксперименты, конечно, требуют осторожности. В симуляциях могут возникнуть непредсказуемые эмерджентные свойства, и ученым придется использовать другие ИИ, чтобы следить за происходящим. Но именно в этом и заключается прелесть симуляций: они позволяют исследовать то, что невозможно воспроизвести в реальном мире, в безопасной «песочнице».

Все эти амбициозные проекты упираются в один фундаментальный вопрос: есть ли у вычислений предел? Хассабис признается, что это центральная тема его жизни с тех пор, как он узнал о работах Тьюринга. Если мы создадим AGI, а затем сравним его с человеческим разумом, мы увидим различия и поймем, что остается уникальным — возможно, это творчество, эмоции или сновидения.

Существуют гипотезы, что для моделирования квантовых систем нужны квантовые компьютеры, а Роджер Пенроуз и вовсе считает, что в мозге есть квантовые эффекты, ответственные за сознание. Но Хассабис склоняется к другой точке зрения.

Он связывает свою позицию с философией Канта, для которого реальность — конструкция разума. Все наши ощущения — свет, тепло, прикосновение — это информация, обрабатываемая биологическими системами. И пока никто не обнаружил во Вселенной ничего принципиально невычислимого. Значит, рано или поздно мы сможем смоделировать всё, включая сознание.

Но путь к такому будущему не будет гладким. Хассабис с тревогой смотрит на ближайшие годы. Сегодняшние системы пассивны и лишь отвечают на запросы пользователя. Но уже через два-три года появятся автономные агенты, которые будут действовать самостоятельно. Это откроет огромные возможности, но и риски возрастут многократно. DeepMind уже готовится к миру, где миллионы агентов будут взаимодействовать в интернете, и работает над киберзащитой.

Его беспокоит и неготовность общества к переменам. Даже по консервативным прогнозам, до AGI осталось пять-десять лет, а для создания новых институтов и международных соглашений это катастрофически мало. Возможно, сейчас просто нет подходящих институтов, способных справиться с этими задачами. Геополитическая напряженность только усложняет сотрудничество. Хассабис надеется, что «инцидент среднего масштаба» не понадобится, но допускает, что именно такой предупредительный выстрел может подтолкнуть человечество к координации.

Несмотря на всё это, сам он настроен решительно. Хассабис признается, что мало спит, часто из-за проблем со сном, и испытывает сложную гамму эмоций. Но чувство, что ты находишься на границе неизведанного и открываешь что-то впервые, перевешивает. Были и горькие моменты — например, когда AlphaGo «взломал» игру го, которая веками оставалась загадкой. Или когда новые инструменты ставят под вопрос творческие навыки людей.

А потом, добавляет он с улыбкой, наступит время заслуженного творческого отпуска.