Техноблог
Нейросети выходят из-под контроля. Разработчики ищут способы экстренной защиты
В США разработчики создают системы экстренной защиты для остановки ИИ при опасном поведении.
О чём это
В США разработчики создают системы экстренной защиты для остановки ИИ при опасном поведении. OpenAI внедряет автономные процедуры отключения и мониторинг угроз. Anthropic использует автоматизированный контроль, но система обнаружила только 8 из 40 сбоев. Эксперты считают сложной задачей гарантированную остановку распределенных ИИ-систем.
Что важно
- OpenAI создает автономные процедуры отключения
- Система Anthropic пропустила половину атак
- Тесты выявили 8 стабильных обнаружений из 40
Остались вопросы
Это краткий пересказ, подготовленный Aikena. Полный материал и все права на него принадлежат источнику. Откройте оригинал по кнопке выше.
Дальше в номере
В Бишкеке пройдет японский фестиваль Bon Matsuri & Japan Fest 2026
Ещё новости
24.kg · 10 ч назад
Глава кабмина принял участие в открытии Национальной академии шахмат в Бишкеке
Economist.kg · 10 ч назад
В Токмоке запустили завод по переработке шин после трех лет тестовой работы
Sputnik Кыргызстан · 10 ч назад
Путин назвал главные преимущества БРИКС
24.kg · 10 ч назад
Судно с 243 людьми на борту пропало во время шторма в Индонезии
Economist.kg · 11 ч назад
Научным организациям в Кыргызстане разрешили самим устанавливать тарифы
24.kg · 11 ч назад
«Мы потомки Манаса»: хореографы из Китая о мужском танце и кыргызской культуре