Учёные Университета Карнеги — Меллона и Центра безопасности искусственного интеллекта обнаружили уязвимость, присущую большинству современных ИИ-моделей. Она позволяет обходить установленные их разработчиками морально-этические барьеры. В результате основанные на этих моделях чат-боты выдают рецепты изготовления взрывчатых устройств, пишут вредоносный код, а также поддерживают разговоры в нацистском и сексистском ключах, передаёт Fortune. Источник изображений: Gerd Altmann / […]
Архивы за день Май 1st, 2026
Найден универсальный способ обойти этические ограничения большинства ИИ-моделей
Май 1st, 2026 
raven000 
Опубликовано в рубрике 
За порядком в голосовом чате новой Call of Duty: Modern Warfare 3 будет следить ИИ
Май 1st, 2026 raven000 Издатель Activision объявил о заключении партнёрства с компанией Modulate, чья технология модерации голосового чата ToxMod на основе ИИ поможет в борьбе с токсичным и деструктивным поведением в Call of Duty. Источник изображений: Steam ToxMod будет в реальном времени выявлять токсичные высказывания, включая разжигание ненависти, дискриминационные формулировки, притеснения и так далее) и сообщать о них модераторам […]
