Руководители компаний в сфере ИИ снова призвали к регулированию отрасли

Что произошло

За последние несколько дней представители OpenAI, Anthropic, Google DeepMind, Microsoft и X согласились с тем, что развитие ИИ следует сделать более контролируемым. Среди них были Сэм Альтман, Дарио Амодеи, Демис Хассабис, Сатья Наделла и Илон Маск.

Автор The Verge отмечает, что к таким заявлениям со стороны людей, финансово заинтересованных в развитии технологии, следует относиться скептически. При этом нынешняя волна предупреждений не является первой в истории ИИ.

Как развивалась дискуссия

В 1863 году Сэмюэл Батлер предупредил, что разумные самовоспроизводящиеся машины могут заменить людей. В книге «Эреуон», опубликованной в 1872 году, он описал вымышленное общество, которое запретило машины, чтобы избежать краха человечества.

В лекции 1951 года Алан Тьюринг говорил, что искусственный интеллект столкнётся с сильным сопротивлением, поскольку неумирающие машины смогут превзойти человеческие возможности и в конечном счёте получить контроль.

В 2000 году сооснователь Sun Microsystems Билл Джой назвал самовоспроизводящихся роботов потенциально более опасными, чем ядерное оружие. В 2009 году исследователь Microsoft Эрик Хорвиц собрал ведущих специалистов по ИИ для обсуждения правил, которые могли бы ограничить или изменить поведение автономных и полуавтономных систем.

В статье говорится, что современная тенденция, при которой руководители компаний в сфере ИИ призывают контролировать собственные инвестиции, вероятно, началась с Илона Маска.

Позиция Илона Маска

К моменту обращения к губернаторам США Илон Маск уже вложил 38 млн долларов в OpenAI, владел долями как минимум в двух других компаниях, занимавшихся ИИ, и на протяжении трёх лет публично говорил об опасностях искусственного интеллекта.

В июне 2014 года Маск предположил, что исследования ИИ могут привести к появлению реального Терминатора. В августе он назвал искусственный интеллект потенциально более опасным, чем ядерное оружие, а в октябре сравнил работу над ИИ с «призывом демона».

В январе 2015 года Маск вместе со Стивеном Хокингом подписал открытое письмо с призывом к ответственным исследованиям ИИ. В июле 2017 года на летней встрече Национальной ассоциации губернаторов США он заявил, что регулирование нужно вводить заранее, а не реагировать на последствия. В марте 2018 года Маск вновь назвал ИИ более опасным, чем ядерное оружие, и задался вопросом, почему отрасль не имеет регуляторного надзора.