Разработчики ИИ призвали замедлить гонку на фоне растущих рисков
Dario Amodei из Anthropic заявил, что возможности ИИ развиваются быстрее, чем отрасль успевает их понять и контролировать. Глава ООН по правам человека также призвал к срочным мерам
Один основной источник · Как мы проверяем новости
Что произошло
За годы гонки в сфере ИИ главным приоритетом отрасли была скорость: компании создавали более крупные модели, увеличивали расходы на вычислительные мощности и выпускали новые продукты.
Теперь глава Anthropic Dario Amodei призвал сделать развитие передового ИИ более постепенным. Он заявил, что возможности технологий растут быстрее, чем способность отрасли их понимать и контролировать.
Оценки возможного ущерба
В 2024 году средняя оценка вероятности катастрофического развития событий из-за ИИ среди исследователей составляла 15–20%. Годом позже Amodei заявил, что оценивает вероятность очень плохого исхода в 25%.
Глава OpenAI Sam Altman ещё в 2015 году говорил, что ИИ, вероятно, может привести к концу света, хотя до этого способен создать успешные компании.
Почему это важно
Предупреждения исходят не только от компаний, разрабатывающих технологии. Глава ООН по правам человека Volker Türk призвал к срочным действиям в отношении передового ИИ, заявив о беспрецедентных рисках и приближении необратимых изменений.
Материал ставит вопрос о том, связано ли замедление с тем, что риски ИИ начинают опережать возможности контроля, или у происходящего есть другая причина.
Источники
Один основной источник. Как мы проверяем новости
