"Мы поставили мир под угрозу". Создатель ChatGPT выступил за госрегулирование искусственного интеллекта
На слушаниях в сенате США гендиректор OpenAI Сэм Олтмен признал, что ИИ может угрожать человечеству, хотя выгода от его применения пока превышает риск.Сэм Олтмен, гендиректор создавшей популярный чат-бот с искусственным интеллектом ChatGPT компании OpenAI, выступил на слушаниях по вопросу госрегулирования ИИ в законодательном комитете сената США. Он публично признал, что быстрое развитие искусственного интеллекта создаёт значительные риски и требует государственного регулирования, сообщает The Telegraph.
Если власти не будут вмешиваться в процесс развития ИИ, то искусственный интеллект в конечном счёте может выйти из-под контроля и стать угрозой всему миру, предупредил Сэм Олтмен. В то же время он выразил уверенность в том, что у чат-ботов с ИИ есть достаточный потенциал для того, чтобы "улучшить практически каждый аспект нашей жизни".
"Больше всего я боюсь, что мы – технологическая отрасль – можем причинить миру существенный вред. Если эта технология выйдет из-под контроля, то может натворить много бед, и мы хотим сотрудничать с правительством, чтобы это предотвратить", – сказал Сэм Олтмен.
Американские сенаторы выразили главе OpenAI свои опасения и продемонстрировали, что уже сейчас искусственный интеллект может использоваться для создания правдоподобных фейков, распространения дезинформации и нарушения авторских прав. Сенатор от демократов Ричард Блюменталь открыл слушания речью, которую написал чат-бот с искусственным интеллектом и произнёс "умный" голосовой помощник – причём голосом самого Блюменталя. Политик отметил, что "развитие технологий часто опережает их правовое регулирование". Другие участники слушаний обратили внимание на то, что некоторые страны могут применять ИИ во враждебных целях, в том числе вмешиваться с его помощью в выборы за рубежом или похищать секретные сведения.
"Для меня, пожалуй, самый страшный кошмар – это надвигающаяся угроза новой промышленной революции и увольнения миллионов работников", – подчеркнул Ричард Блюменталь, имея в виду влияние искусственного интеллекта на рынок труда во всём мире.
Сэм Олтмен в ответ заверил, что "ИИ-инструменты создаются с учётом демократических ценностей". Он предложил установить требования по лицензированию, а также строгие правила безопасности и аудита для наиболее мощных систем искусственного интеллекта. По словам Олтмена, ИИ следует ограничить в возможностях – в частности, запретить ему самовоспроизводство.
Глава OpenAI также выступил за создание единой международной организации, которая могла бы регулировать применение искусственного интеллекта по аналогии с тем, как МАГАТЭ следит за атомной энергетикой. Кроме того, Олтмен подчеркнул, что персональные данные людей не должны использоваться при обучении систем ИИ.
Читайте также:
- "Байден умер". В интернете нашли около 50 сайтов с фейковыми новостями, которые пишет ChatGPT
- "Мы добились прогресса, которого сами не ожидали". Почему искусственный интеллект грозит человечеству катастрофой
- "Представьте, что с ним может сделать Путин". Создатель искусственного интеллекта предупредил о его опасности