В индустрии ИИ обсуждают риск уничтожения человечества
Уход исследователя Jacob Coxon из Anthropic и публикация руководителя направления по согласованию моделей компании вызвали новую дискуссию об угрозе ИИ для человечества
Один основной источник · Как мы проверяем новости
Что произошло
AI-исследователь Jacob Coxon сообщил, что ушёл из Anthropic, поскольку считает, что ведущие AI-компании подвергают человечество опасному риску.
Его публикацию в X вскоре распространил руководитель направления по согласованию моделей в Anthropic. Он заявил, что ИИ может уничтожить человечество, а лично оценивает вероятность такого сценария более чем в 10% в течение следующего десятилетия.
Что обсудили в подкасте
В выпуске TechCrunch Equity Anthony Ha, Kirsten Korosec и Sean O’Kane обсудили новые предупреждения о возможном катастрофическом развитии ИИ.
Anthony Ha заявил, что скептически относится ко многим апокалиптическим сценариям вокруг ИИ. Kirsten Korosec предположила, что подобные заявления могут быть способом подчеркнуть уровень развития моделей компаний, особенно накануне их выхода на биржу.
Sean O’Kane отдельно рассмотрел, как опасения по поводу ИИ могли бы отражаться в документах Anthropic для IPO, включая форму S-1.
Почему это важно
Дискуссия затрагивает противоречие между предупреждениями о возможном уничтожении человечества ИИ и продолжением работы над развитием таких технологий.
Anthony Ha отметил, что решение Coxon уйти из Anthropic отличает его позицию от обычных предупреждений: исследователь связал свои опасения с собственной профессиональной траекторией.
Контекст
Обсуждение прошло после упоминания взлома внутренней модели OpenAI через Hugging Face и на фоне роста возможностей последних моделей Anthropic и OpenAI, включая Astra.
Запись выпуска состоялась до того, как CEO Anthropic Dario Amodei опубликовал план более осторожного развития ИИ.
Источники
Один основной источник. Как мы проверяем новости
