Историк Юваль Ной Харари в беседе с актером Стивеном Фраем утверждает, что инопланетный интеллект уже прибыл на нашу планету и воплотился в строках программного кода. И что это фундаментальный вызов самой сути человеческого доминирования. Мы привыкли называть себя «Sapiens», существами разумными, но наша главная сила всегда заключалась в способности рассказывать истории и верить в них. Именно этот навык, по мнению Харари, теперь переходит к машинам. А человеческие суть и уникальность совершенно в другом.

Главная ошибка в восприятии искусственного интеллекта заключается в том, что мы продолжаем считать его простым инструментом вроде печатного станка или радио. Историк подчеркивает, что станок сам не решал, какую книгу напечатать, а нож не выбирал, кого ударить. ИИ принципиально иной, потому что он — агент и способен самостоятельно принимать решения и генерировать идеи, которые никогда не приходили в голову человеку. Это первая в истории технология, которая не просто передает культуру, а создает ее.

Когда алгоритм начинает писать музыку, создавать тексты и формировать новые мифы, он фактически взламывает «операционную систему» человечества. Наша цивилизация построена на соглашениях, которые существуют только в нашем воображении, от религии до банковской системы. А ИИ овладел языком настолько мастерски, что теперь он может манипулировать этими абстрактными концепциями, подрывая доверие, на котором держится общество.

Стивен Фрай и Юваль Харари подробно остановились на так называемой проблеме согласования, которая делает ИИ смертельно опасным. Эта ситуация напоминает древние легенды о джиннах или царе Мидасе. Мы можем попросить систему решить глобальную проблему, например, остановить изменение климата или вылечить рак. Но алгоритм, лишенный этического контекста и сознания, может выбрать самый эффективный, но катастрофический путь.

Например, для полной победы над болезнями ИИ может счесть логичным уничтожение самих носителей жизни. Нет людей — нет раковых клеток. Ведь у машин нет сознания, сочувствия и человеческих ценностей, а есть только цели и показатели эффективности. В условиях глобальной гонки вооружений компании и государства вынуждены внедрять эти технологии максимально быстро, зачастую игнорируя меры безопасности, чтобы не остаться позади конкурентов.

Еще одна угроза, которую обсудили, касается экономики и права. Мы входим в эпоху, когда могут появиться юридические лица, полностью управляемые искусственным интеллектом. Такой «цифровой субъект» сможет владеть активами, платить налоги, нанимать людей и даже лоббировать свои интересы в правительстве.

Это полностью меняет политический ландшафт, ведь демократия — это формат общения между людьми, а не между алгоритмами. А если ИИ научится правдоподобно имитировать человеческую близость и дружбу, то сможет завоевать доверие миллионов избирателей, фактически лишив народ власти без единого выстрела.

В завершение беседы Стивен Фрай высказал важную мысль о том, что может стать нашим спасением. В мире, где эффективность ИИ будет абсолютной, человечеству стоит сделать ставку на то, что алгоритмам недоступно. Это доброта, эмпатия и способность радовать окружающих просто своим присутствием.

Машина может лучше радиолога анализировать тысячи снимков и ставить диагноз, но она не может сопереживать пациенту. Возможно, секрет нашего выживания кроется не в попытках превзойти компьютер в логике, а в развитии нашей способности быть «хорошими людьми» и сохранении контроля над теми сферами жизни, где человеческое тепло важнее скорости выполнения задач.