Глава Anthropic пообещал не ускорять развитие ИИ под давлением бизнеса и политики
На церемонии открытия торгов на Nasdaq Dario Amodei заявил, что Anthropic будет развивать и внедрять ИИ только с темпами, позволяющими сохранять контроль человека над системами
Один основной источник · Как мы проверяем новости

Что произошло
На церемонии открытия торгов на Nasdaq CEO Anthropic Dario Amodei вновь заявил, что компания будет развивать ИИ ответственными темпами. Он подчеркнул, что Anthropic не станет менять этот курс под влиянием бизнеса или политики.
Amodei сказал, что обучение и внедрение ИИ-систем будут проходить столько времени, сколько необходимо для уверенности в их безопасности и сохранении контроля человека.
На чем сосредоточится Anthropic
Компания намерена продолжать работу над согласованием ИИ и тестированием, а также разрабатывать способы лучше понимать поведение систем. В Anthropic считают, что защитные механизмы могут предотвратить риски, связанные с использованием ИИ злоумышленниками, включая отдельные лица и государства.
Amodei также связал развитие ИИ с медицинским прогрессом. По его словам, системы могут работать совместно с людьми и помогать ускорять исследования в областях, где ученым не хватает времени и ресурсов.
Почему это важно
Глава Anthropic вновь предупредил о рисках слишком быстрого развития технологии. Среди возможных последствий он назвал экономические потрясения и потерю контроля над ИИ-системами.
В сентябре Amodei предлагал согласовывать стандарты безопасности с другими ведущими компаниями и привлекать независимых оценщиков для проверки выполнения обязательств. Sam Altman, Demis Hassabis и Elon Musk заявляли о согласии с его позицией, но конкретных обязательств последовало немного.
Контекст
В своей речи Amodei рассказал, что идея создания мощной технологии для помощи человечеству была связана с личной историей его семьи: его отец умер от болезни, которая спустя несколько лет стала излечимой.
Сестра Amodei и сооснователь Anthropic Daniela Amodei в интервью CNBC также заявила, что при реальности рисков возможности ИИ остаются исключительными.
Источники
Один основной источник. Как мы проверяем новости


