Anthropic предложила контролировать темпы развития ИИ

Что произошло

Глава Anthropic Dario Amodei представил план по контролю темпов развития передовых систем ИИ. Инициатива последовала через неделю после того, как предупреждение исследователя Anthropic о возможной катастрофе привлекло внимание ИИ-индустрии.

В основе предложения — независимая оценка безопасности ИИ и координация между лабораториями в демократических странах. План уже получил поддержку части отрасли, однако Jensen Huang из Nvidia выступил с критикой.

Что обсудили в подкасте

В выпуске подкаста TechCrunch Equity Kirsten Korosec, Anthony Ha и Sean O’Kane обсудили, смогут ли компании договориться о значении замедления разработки ИИ и определить, кто будет контролировать соблюдение таких договорённостей.

Кроме темы регулирования темпов развития ИИ, ведущие затронули внутренний переворот в совете директоров Automattic, материнской компании WordPress, а также несколько крупных сделок недели.

Почему это важно

Предложение Anthropic выносит вопрос безопасности ИИ за пределы отдельных компаний: оно предполагает независимую проверку систем и взаимодействие между лабораториями. При этом разногласия вокруг инициативы показывают, что участники рынка пока могут по-разному понимать, как именно следует замедлять развитие передовых моделей.