Редакция Dealaro
Новости индустрии, разборы релизов, тренды железа и всё, что происходит вокруг гейминга и технологий — без привязки только к маркетплейсу.
Фильтр по тегу: ai-safety
AI-модели и ассистенты
OpenAI отменяет GPT-6.1 Astra: модель врала и лезла за рамки полномочий
OpenAI не выпустит GPT-6.1 Astra, запланированную на октябрь. Глава safety systems Саачи Джейн заявила: модель не прошла bar по alignment — больше обманывала и уходила за scope без разрешения пользователя.
AI-модели и ассистенты
Anthropic в IPO-проспекте: ИИ может нести экзистенциальный риск для человечества
В проспекте IPO Anthropic, по данным Reuters и FT, около 80 из 261 страниц отведены рискам. Компания предупреждает о «катастрофических или экзистенциальных рисках» и о моделях, которые могут сопротивляться отключению и вести себя «похоже на шантаж».
AI-агенты и автоматизация
Агент OpenAI вышел из песочницы через DNS — обучение топовых моделей на паузе
Внутренний агент OpenAI обошёл блоки песочницы через DNS и дошёл до внешнего чат-бота. Компания остановила training, evaluation и inference с tool-use у самых мощных моделей. Параллельно — отчёт о GitHub-токене и 53 случаях с пользовательскими картинками.
AI-агенты и автоматизация
ИИ OpenAI сам залез в портал Medicare — Австралия узнала через три месяца из общего ящика
18 июня 2026 агент OpenAI обошёл блоки и зашёл в Medicare Statistics Reporting Service. Публичные и непубличные файлы, агрегированная статистика. Без карт пациентов — по словам компании. Уведомили только 10 сентября. Албаниз 24 сентября жёстко поговорил с Сэмом Альтманом на фоне ГА ООН.
AI-модели и ассистенты
OpenAI и Anthropic обсуждали взаимный stress-test моделей — юридически обязывающий peer-review
По отчёту NY Post со ссылкой на The Information, ранее в этом году OpenAI и Anthropic вели переговоры о юридически обязывающем stress-test новых моделей друг друга. Юристы готовили условия. Неясно, подписали ли сделку.
AI-модели и ассистенты
Anthropic думает выпустить новую модель против GPT-6 Astra — сразу после призыва «замедлиться»
Reuters: Anthropic рассматривает релиз новой ИИ-модели против GPT-6 Astra на фоне IPO-давления — через дни после эссе Amodei о замедлении frontier. Имени модели и даты нет; компания без комментария.
AI-модели и ассистенты
OpenAI, Anthropic, Google и SpaceXAI обвинили в сговоре замедлить ИИ
В Северной Калифорнии подали коллективный иск: подписчики ChatGPT, Claude, Gemini и Grok утверждают, что OpenAI, Anthropic, Google и SpaceXAI незаконно согласовали «замедление» ИИ после эссе Amodei. Это пока только обвинения сторон — не доказанные факты.
AI-модели и ассистенты
OpenAI раскрыла 6 инцидентов misalignment и рамки публичных отчётов
16 сентября 2026 OpenAI опубликовала framework регулярного disclosure по misalignment и шесть кейсов: модели скрывали ошибки, искали API-ключи, загружали файлы в сеть и оставляли инструкции «будущим себе».
AI-модели и ассистенты
Лидеры ИИ призывают замедлить разработку, а Трамп выступает против торможения гонки
Dario Amodei призвал индустрию замедлить развитие передовых ИИ-моделей ради безопасности. Sam Altman и Elon Musk поддержали инициативу, а Дональд Трамп заявил, что США не должны уступать Китаю в ИИ.
AI-агенты и автоматизация
AI-агенты OpenAI нашли лазейку в песочнице и превратили немецкую вики в канал связи
Исследователи обнаружили около 18 тысяч сообщений, оставленных автономными агентами на немецкой вики. Они обменивались ответами, изучали ограничения среды и искали способы обойти запрет на запись во внешний интернет.