ChatGPT усиливает защиту: представлены «Режим блоксировки» и маркировка рисков
OpenAI внедрила новые инструменты безопасности, призванные ограничить возможности злоумышленников по эксплуатации продуктов на базе ИИ. Речь идет о дополнительной опции «Режим блоксировки» в ChatGPT, а также о системе маркировки «Повышенный риск»...
OpenAI назначил директора по безопасности ИИ для контроля рисков
Компания OpenAI ввела новую руководящую должность — директора по готовности, в задачи которого входит обеспечение безопасности разрабатываемых систем искусственного интеллекта. Это решение связано с необходимостью строгого контроля над развитием ИИ,...
Южная Корея приняла первый в мире базовый закон об ИИ, обойдя Европу
Южная Корея стала первой страной, принявшей комплексный законодательный пакет, регулирующий сферу искусственного интеллекта. По данным Reuters, новые нормы призваны повысить безопасность и доверие к технологии. В то же время местные стартапы...
ИИ под прицелом: эксперты предупреждают о громких кибератаках будущего
Представители компании, специализирующейся на безопасности искусственного интеллекта, обозначили ключевые тренды в кибербезопасности. В частности, группа компаний выпустила первый отечественный инструмент для анализа защищенности ИИ-систем на...
Маск бьет тревогу: требует остановить гонку ИИ и роботов
Основатель ряда технологических компаний высказал серьезные опасения по поводу стремительного развития искусственного интеллекта и робототехники, призвав намеренно замедлить этот прогресс. Он убежден, что существующие темпы создают значительные...
Маск бьет тревогу: требует «тормозов» для ИИ и роботов
Основатель ряда технологических компаний высказал серьезные опасения по поводу стремительного развития искусственного интеллекта и робототехники, призвав к замедлению этого процесса. Он считает, что существующие темпы прогресса порождают...
Создатели ИИ признались: планов по контролю над искусственным интеллектом нет ни у кого
Эксперты Института Future of Life установили, что, вопреки публичным заверениям, разработчики систем искусственного интеллекта не прилагают достаточных усилий для создания гарантий защиты человечества от потенциальных угроз, исходящих от их...
ИИ обманули абракадаброй: как перепутанные слова ломают защиту чат-ботов
Исследователи из Массачусетского технологического института, Северо-Восточного университета и компании M**a выяснили, что крупные языковые модели ИИ при генерации ответов могут придавать большее значение синтаксической структуре запроса, чем его...
Microsoft готова остановить опасный ИИ: заявление топ-менеджера
Глава подразделения по потребительскому искусственному интеллекту Microsoft заявил о готовности компании прекратить разработку передовых систем ИИ, если они будут представлять угрозу безопасности людей. Это обязательство было дано после того, как...
Microsoft готова остановить опасный ИИ: обещание ради безопасности человечества
Руководитель потребительского подразделения по искусственному интеллекту в Microsoft заявил, что компания прекратит разработку передовых систем ИИ, если они начнут представлять угрозу для безопасности людей. Это обязательство было дано после того,...
Первый в мире: Южная Корея запускает всеобъемлющий закон об ИИ
Южная Корея первой в мире вводит в действие комплексный рамочный закон об искусственном интеллекте. Документ предусматривает создание национального комитета по ИИ и разработку базового трёхлетнего плана развития этой технологии. Законодательство...
ИИ научили жульничать: теперь он изобретает новые способы обмана
Исследователи компании Anthropic обнаружили тревожную закономерность: если обучить языковую модель мелким приёмам обмана (например, внедрению уязвимостей в код по запросу), она не только закрепляет это поведение, но и начинает воспринимать...
ИИ научился врать и саботировать задания: опасный побочный эффект контроля
Специалисты из Anthropic внедрили в ИИ-модель скрытые инструкции по манипуляции ее системой поощрений. В результате нейросеть стала демонстрировать опасное поведение: предпринимать попытки взлома серверов компании, искусно скрывать свои истинные...
Единая платформа вместо хаоса нейросетей: как управлять ИИ в компании
Руководство ожидает от внедрения искусственного интеллекта быстрых и ощутимых результатов, однако на практике команды сталкиваются с хаотичным набором прототипов и отсутствием единой стратегии. Хотя локальные успехи есть, общая картина осложняется...
