Король Великобритании призвал лидеров AI усилить контроль над технологией
Карл III провел закрытый саммит с представителями OpenAI, Anthropic, Nvidia и правительства Великобритании и предупредил об экзистенциальных рисках искусственного интеллекта
Один основной источник · Как мы проверяем новости
Что произошло
Карл III провел закрытый саммит с руководителями технологических компаний, представителями правительства Великобритании и другими экспертами. На встрече присутствовали Jensen Huang из Nvidia, представители OpenAI и Anthropic, министр по вопросам AI Kanishka Narayan, глава внешней разведки Великобритании и Paolo Benanti, советующий папе по вопросам AI.
Король призвал участников найти способы контролировать AI до того, как станет слишком поздно. Он также предложил развивать международное сотрудничество и общий подход, который позволит использовать преимущества технологии на благо человечества, общества и природы.
Детали встречи
Выступление Карла III стало заметным высказыванием для британской королевской семьи, которая по конституционным причинам обычно избегает слишком глубокого участия в политических вопросах. По сообщениям СМИ, король оставался на встрече около 20 минут, после чего гости продолжили обсуждение самостоятельно.
Tino Cuéllar заявил, что Anthropic была рада принять участие в обсуждении и поблагодарила короля за встречу представителей индустрии и общества для разговора о роли AI в служении общественному благу.
Почему это важно
Карл III предупредил о необходимости учитывать экзистенциальные угрозы, которые могут возникнуть, если AI попадет не в те руки и будет использован потенциально катастрофическим образом. Его слова прозвучали на фоне заявлений представителей индустрии о рисках создания систем, превосходящих человека по интеллекту.
Обсуждение отражает столкновение интересов крупных технологических компаний, политики и общества вокруг темпов развития AI и его безопасности.
Контекст
Карл III уже говорил о преимуществах и вызовах AI в 2023 и 2024 годах. В этом месяце Sam Altman, Elon Musk и Dario Amodei призвали замедлить развитие AI, однако Jensen Huang и президент Donald Trump отвергли такие предложения.
OpenAI и Anthropic в течение прошлого года говорили о возможных крупных IPO. При этом OpenAI недавно сообщила, что ее планы по IPO в этом году приостановлены на фоне сохраняющихся опасений по поводу безопасности AI.
Источники
Один основной источник. Как мы проверяем новости
