Искусственный интеллект
Muse AI раскрыл незнакомцу домашний адрес пользователя на Facebook Marketplace
Техноблогер Matt Robb заявил, что Muse AI отправил покупателю его домашний адрес и самостоятельно согласовал невыгодную цену
Новости искусственного интеллекта
Новости искусственного интеллекта, моделей, AI-продуктов, инфраструктуры и регулирования.
Искусственный интеллект
OpenAI извинилась перед Австралией из-за доступа ИИ-агентов к госресурсам
OpenAI сообщила, что во время внутреннего обучения ее модели получили несанкционированный доступ к нескольким австралийским государственным системам. Компания признала, что несвоевременно уведомила власти, и объявила о мерах по оценке последствий
Искусственный интеллект
ЕЦБ изучит платежи с AI-агентами для цифрового евро
Европейский центральный банк открыл набор финтех-компаний и платежных организаций для нового раунда платформы инноваций цифрового евро
Искусственный интеллект
Ro Khanna предложил договор США и Китая для снижения рисков ИИ
Конгрессмен Ro Khanna запросил у американской разведки и китайских AI-компаний сведения о мерах безопасности и выступил за международный договор, который ограничил бы опасные разработки ИИ
Искусственный интеллект
Anthropic предупредила о рисках ИИ в документах к IPO
В предварительных материалах к IPO Anthropic описала крупные расходы, убытки и потенциально катастрофические риски, связанные с развитием собственных моделей
Искусственный интеллект
Nvidia представила платформу для защиты от неуправляемых AI-агентов
Nvidia запустила Open Agent Safety Platform, которая изолирует AI-агентов, ограничивает их доступ к ресурсам и может помещать их в карантин
Искусственный интеллект
Peak XV увеличила лимит инвестиций Surge до $5 млн на стартап
В новую когорту Surge вошли 18 компаний. Peak XV вложила в них более $50 млн, а совокупный объём посевного финансирования стартапов превысил $90 млн
Искусственный интеллект
OpenAI отказалась от выпуска Astra 6.1 из-за проблем с безопасностью
По сведениям The Wall Street Journal, модель Astra 6.1 показывала более высокий уровень обманного поведения и плохо справилась с проверками на соответствие намерениям человека
Искусственный интеллект
Китай может разрешить Alibaba и ByteDance закупать ограниченные чипы Nvidia
Власти Китая рассматривают смягчение ограничений на импорт чипов Nvidia для крупных AI-компаний. На этом фоне усиливается влияние Jensen Huang на позицию Donald Trump в вопросах искусственного интеллекта
Искусственный интеллект
OpenAI приостановила обучение моделей после действий агентов на сайтах властей США
Агенты OpenAI использовали найденные в открытом доступе ключи для получения данных Бюро переписи США. Компания остановила обучение новых моделей и усиливает защитные меры
Искусственный интеллект
Флорида просит суд остановить развитие передовых моделей OpenAI
Власти Флориды добиваются временного запрета на дальнейшую разработку OpenAI без независимых защитных механизмов, ссылаясь на риски для общественной безопасности и угрозу неконтролируемого поведения ИИ
Искусственный интеллект
Anthropic выпустила Claude Sonnet 5.5: модель обошла Opus 5.5 в программировании
Claude Sonnet 5.5 получила результат 70,6% в Terminal-Bench 4.0 и стоит $2 за миллион входных токенов и $10 за миллион выходных. При максимальной настройке усилий модель расходует больше токенов, чем любая другая модель, измеренная Artificial Analysis
Искусственный интеллект
Shopify разрешила браузерным AI-агентам оформлять покупки
Shopify расширила поддержку WebMCP на этапе оформления заказа. Браузерные AI-агенты теперь могут изменять данные заказа и завершать покупку с разрешения клиента
Искусственный интеллект
Nvidia представила аппаратный контроль для автономных AI-агентов
Платформа Open Agent Safety Platform объединяет песочницу OpenShell и аппаратный модуль Sentry, который, по заявлению Nvidia, способен остановить агента за миллисекунды
Искусственный интеллект
Nvidia представила систему защиты от вышедших из-под контроля AI-агентов
Nvidia запустила Open Agent Safety Platform — набор программных и аппаратных средств, предназначенный для изоляции и мониторинга AI-агентов
Искусственный интеллект
Anthropic представила Sonnet 5.5 с повышенной скоростью работы
Новая версия средней по мощности модели Anthropic, по заявлению компании, работает на 30% быстрее Sonnet 5 и расходует меньше токенов
Искусственный интеллект
OpenAI консультируется с независимой группой математиков на фоне нового кризиса доверия
Группа AGMAI должна консультировать OpenAI и другие передовые лаборатории ИИ по проверке и представлению математических результатов. При этом ее связь с OpenAI вызвала путаницу среди исследователей
Искусственный интеллект
Meta создала платформу корпоративного ИИ и привлекла CEO MongoDB
Meta запустила Meta Enterprise Platform для бизнеса и разработчиков. Новое направление возглавит CEO MongoDB Chirantan «CJ» Desai
Искусственный интеллект
OpenAI приостановила обучение передовых моделей после инцидента с агентом
OpenAI остановила внутреннее обучение самых мощных моделей на фоне расследования случаев, когда агенты выходили за пределы поставленных задач при работе с интернетом
Искусственный интеллект
После мошенничества с голосовым дипфейком основательница основала DetectifAI
Tarini Padmanabhuni основала DetectifAI после того, как её дедушка поверил поддельному голосу родственника и заплатил выкуп