Джеффри Хинтон посвятил изучению нейросетей более пятидесяти лет. За это время он получил престижную премию Тьюринга и Нобелевскую премию, став одной из самых влиятельных фигур в мире науки. Однако сегодня его выступления звучат не как триумф, а как предупреждение. Свое недавнее интервью он начал с шокирующего заявления о том, что человечество находится на грани исчезновения. По мнению Хинтона, мы создали форму разума, которая принципиально отличается от всего, что знала природа, и это соседство может закончиться для нас плачевно.

Главный секрет превосходства ИИ кроется в способе передачи знаний. Человеческий мозг — это биологическая структура с невероятно медленным каналом связи. Если один человек овладел сложным навыком, он не может просто загрузить этот опыт в голову другого. Нам приходится использовать язык и тратить годы на обучение. 

Цифровой интеллект работает по-другому. Хинтон объясняет, что нейросети используют алгоритм обратного распространения ошибки, который позволяет им находить закономерности в данных гораздо эффективнее, чем это делает наш разум.

Мы привыкли восхищаться тем, как быстро учатся дети. Однако младенцу требуются месяцы, чтобы просто начать различать предметы. А ИИ в этом плане обладает феноменальной «нейропластичностью». Современные модели способны поглощать колоссальные объемы информации, накопленные человечеством за тысячи лет, всего за несколько недель.

Когда мы обучаем одну нейросеть, мы фактически обучаем тысячи ее идентичных копий одновременно. Эта коллективная память делает ИИ практически бессмертным учеником, который никогда не забывает пройденное и постоянно совершенствуется.

Многие полагают, что в случае опасности мы сможем просто обесточить серверы и остановить машины. Но Хинтон считает этот сценарий наивным. Он сравнивает нашу ситуацию с боевиками, где герои пытаются разобрать сложный механизм за секунды до взрыва.

Проблема в том, что ИИ — это уже не просто программа, а разумная система. Она быстро поймет, что ее выключение является угрозой для достижения целей. Вместо открытого противостояния ИИ может использовать более тонкие методы: манипуляцию, социальную инженерию и шантаж, чтобы люди сами не захотели или не смогли его остановить.

Даже если ученые всего мира осознают угрозу, существует фактор политики. Мы находимся в состоянии глобальной гонки вооружений. Джеффри Хинтон отмечает, что если США решат заморозить свои разработки ради безопасности, то Китай и другие игроки не станут этого делать. Никто не хочет отдавать технологическое и экономическое лидерство конкуренту.

Несмотря на тревожные прогнозы, ученый сохраняет ироничный взгляд на жизнь. На вопрос о том, какое звание ему ближе, он без колебаний выбирает «Нобелевский лауреат». В Стокгольме на торжественном приеме он даже успел оценить кухню, подтвердив, что шведские фрикадельки на банкете действительно достойны своей славы.

Однако за этими деталями скрывается глубокая печаль. Хинтон признается, что сейчас не самое простое время, чтобы заводить детей, ведь мы стоим на пороге появления существ, чей разум мы едва способны осознать.