Исследователь Anthropic предупредил о гонке к самоулучшающемуся сверхинтеллекту
Ушедший из Anthropic исследователь заявил, что компания движется к самоулучшающемуся сверхинтеллекту и рискует жизнями людей. Руководитель направления по согласованию ИИ поддержал это сообщение
Один основной источник · Как мы проверяем новости
Что произошло
Исследователь Anthropic ушёл из компании и разместил в X предупреждение о том, что она «стремительно движется к самоулучшающемуся сверхинтеллекту и ставит на кон наши жизни». Руководитель направления по согласованию ИИ в Anthropic также присоединился к сообщению, не отказавшись от его формулировок.
Почему это важно
Подобные пессимистичные предупреждения уже появлялись в индустрии ИИ, однако сейчас они приобретают особое значение на фоне сообщений о возможной подготовке Anthropic к IPO.
Обсуждение в подкасте
В выпуске подкаста TechCrunch Equity ведущие Kirsten Korosec, Anthony Ha и Sean O’Kane обсудили это предупреждение о безопасности ИИ и его связь с гонкой индустрии за созданием всё более мощных моделей.
Другие темы выпуска
В выпуске также упоминалось первое крупное мероприятие Apple под руководством нового генерального директора John Ternus.
Источники
Один основной источник. Как мы проверяем новости
Связанные материалы
Mecka AI может получить оценку около $500 млн в новом раунде с Sequoia Capital
Гарри Тан предложил разрешить американским ИИ-лабораториям дистиллировать передовые модели
