Приведёт ли искусственный интеллект к исчезновению человечества?

"Искусственный интеллект может привести к исчезновению человечества", – с таким апокалиптическим предупреждением выступила группа руководителей и учёных из технологических компаний, включая OpenAI и Google DeepMind.

"Уменьшение риска исчезновения человечества из-за развития искусственного интеллекта должно стать глобальным приоритетом наряду с другими рисками, такими как пандемии и ядерная война", – говорится в заявлении, опубликованном на сайте Центра безопасности ИИ, некоммерческой организации из Сан-Франциско.

Это – весь текст заявления, которое его авторы сознательно сделали максимально коротким. "Мы не хотели публиковать список из 30 возможных рекомендаций, чтобы … не разбавлять нашу мысль", – сказал исполнительный директор организации Дэн Хендрикс.

Заявление уже подписали более 350 руководителей, исследователей и инженеров в области искусственного интеллекта, в том числе Сэм Альтман из OpenAI, Демис Хассабис из Google DeepMind и Дарио Амодей из Anthropic.

Подписи под документом также поставили получившие премию Тьюринга за свою работу над нейронными сетями Джеффри Хинтон и Йошуа Бенджио, которых часто называют крёстными отцами ИИ. В начале мая Хинтон даже уволился со своего поста в Google, чтобы получить возможность свободно говорить о потенциальном вреде технологий без оглядки на профессиональную этику.

Всё не так страшно?

Однако далеко не все эксперты по искусственному интеллекту разделяют эти алармистские настроения. Например, Ян Лекун, вице-президент и ведущий AI-исследователь корпорации Meta, считает их сильно преувеличенными. "Я думаю, что масштабы проблемы уравнивания ИИ [с человеческим интеллектом] были смехотворно преувеличены, а наша способность решить её – сильно недооценена", – написал он.

С ним согласны и другие эксперты, которые полагают, что страхи перед ИИ, во-первых, нереалистичны, а во-вторых, отвлекают внимание от реальных проблем. "Ныне существующий ИИ не настолько развит, чтобы подобные опасения материализовались", – сказал BBC профессор Принстонского университета Арвинд Нараянан.

Разговоры о том, что ИИ может либо радикально и к лучшему изменить человеческое общество, либо его полностью уничтожить, существовали в научной фантастике на протяжении последних 80 лет. Но только в последнее время технологии вышли на новый уровень. Теперь ИИ может писать песни, генерировать реалистичные изображения, создавать компьютерный код, писать киносценарии и так далее. Непосредственно на сегодняшний день проблемы, создаваемые ИИ, в значительной степени касаются нарушения авторских прав и конфиденциальности.

Старшая научная сотрудница Оксфордского института этики в области искусственного интеллекта Элизабет Реньерис сказала BBC, что её больше беспокоит то, что "развитие ИИ может увеличить масштабы автоматизированного принятия решений… и привести к распространению дезинформации".

Не первое предупреждение

Заявление, опубликованное на сайте Центра безопасности ИИ, – не первое предупреждение подобного рода. В марте ведущие фигуры в области разработки ИИ, включая Илона Маска и основателя Apple Стива Возняка, уже призывали притормозить исследования в этой области, пока не будут разработаны и применены надёжные протоколы безопасности.

Они опубликовали открытое письмо, в котором подробно описывали потенциальные, с их точки зрения, риски, которыми может сопровождаться развитие искусственного интеллекта. Среди них были названы распространение дезинформации, сокращение рабочих мест, в том числе и в тех областях, которые приносят радость творчества, и в целом – возможность полной потери контроля над развитием человеческой цивилизации.

Законодательные рамки

Законодатели ЕС уже разрабатывают европейский закон об искусственном интеллекте, аналогичные ограничения рассматриваются и в США.

Европейские законодатели хотят разработать такие законы, которые бы не допускали дискриминационного применения ИИ, например, при приеме на работу, или потенциально могли бы привести к риску для здоровья и безопасности граждан.

При этом скептики считают, что любые ограничения бессмысленны до тех пор, пока они не получат глобального распространения. Учитывая, что сама природа интернета не предполагает соблюдения границ, опасные проявления ИИ, разработанные, например, в России или Китае, всё равно могут привести к негативным последствиям для граждан Европы или США.

ИИ – шпаргалки

Менее апокалиптические, но вполне реальные нарекания вызывает чат-бот ChatGPT, который способен писать тексты и давать точные ответы на заданные вопросы.

В его преимуществах убедились, например, студенты и школьники, хотя и преподаватели тоже не дремлют и уже в ряде случаев научились распознавать работы, написанные искусственным интеллектом.

По словам американского юриста Тайлера Майклза, "непосредственной угрозой являются не роботы-убийцы, а работоубийцы. Особому риску подвергаются те, кто зарабатывает на жизнь, отвечая на телефонные звонки, работая за прилавком или иным образом обслуживая клиентов".

Впрочем, эта эволюция идёт уже давно, и её вряд ли удастся остановить, тогда как авторов заявления беспокоят более серьёзные проблемы. С другой стороны, искусственная приостановка научных исследований ещё ни разу не увенчалась успехом. Скорее всего, наиболее разумным решением будет законодательное регулирование.

Читайте также:

• Искусственный интеллект как угроза человечеству. Маск и Возняк призвали сделать паузу в развитии технологий ИИ
• Британские студенты признались, что писали работы с помощью ChatGPT
• Эксперт отвечает Илону Маску: искусственный интеллект не угроза