Инфосистемы Джет: Доклад «Темная сторона открытых нейросетей» - видео HD
00:29:42
Обнаружено блокирование рекламы на сайте
Для существования нашего сайта необходим показ рекламы. Просим отнестись с пониманием и добавить сайт в список исключений вашей программы для блокировки рекламы (AdBlock и другие).
Инфосистемы Джет 142 ролика
3 просмотра на сайте 12n.ru
Доклад «Темная сторона открытых нейросетей» - видео.
Тёмная сторона ИИ: как нейросети с открытым исходным кодом становятся оружием киберпреступников
Кирилл Одиноков из лаборатории информационной безопасности Сбера рассказывает о рисках использования общедоступных моделей: от скрытых бэкдоров до генерации вредоносного кода. Узнайте, как злоумышленники атакуют системы с помощью промпт-инъекций, джейлбрейка и фреймворков для ИИ-агентов. Наши эксперты покажут, как защититься: от матрицы MITRE ATLAS и статического анализа до динамических инструментов вроде Lamator. Практические кейсы, методологии и готовые решения для безопасной интеграции ИИ в бизнес.
00:11:03 — Топ-наборы угроз и базы данных для анализа рисков при внедрении ИИ
00:11:30 — MITRE ATLAS: матрица атак на искусственный интеллект
00:14:28 — Как злоумышленники используют IDE и фреймворки для создания вредоносных ИИ-агентов
00:15:23 — Контроль ввода: разделение пользовательских и системных данных, чёрные и белые списки
00:15:48 — Защита вывода: экранирование, SAST-анализ сгенерированного кода
00:17:36 — Изоляция сред выполнения и данных при работе с ИИ
00:19:53 — Статический анализ (фаззинг) и обнаружение подозрительных конструкций в коде
00:20:21 — Lamator: российский инструмент для проверки ИИ на прочность (ИИ против ИИ)
00:24:28 — Где можно использовать ИИ, а где категорически нельзя (жизнь, здоровье, ценности)
Кирилл Одиноков из лаборатории информационной безопасности Сбера рассказывает о рисках использования общедоступных моделей: от скрытых бэкдоров до генерации вредоносного кода. Узнайте, как злоумышленники атакуют системы с помощью промпт-инъекций, джейлбрейка и фреймворков для ИИ-агентов. Наши эксперты покажут, как защититься: от матрицы MITRE ATLAS и статического анализа до динамических инструментов вроде Lamator. Практические кейсы, методологии и готовые решения для безопасной интеграции ИИ в бизнес.
00:11:03 — Топ-наборы угроз и базы данных для анализа рисков при внедрении ИИ
00:11:30 — MITRE ATLAS: матрица атак на искусственный интеллект
00:14:28 — Как злоумышленники используют IDE и фреймворки для создания вредоносных ИИ-агентов
00:15:23 — Контроль ввода: разделение пользовательских и системных данных, чёрные и белые списки
00:15:48 — Защита вывода: экранирование, SAST-анализ сгенерированного кода
00:17:36 — Изоляция сред выполнения и данных при работе с ИИ
00:19:53 — Статический анализ (фаззинг) и обнаружение подозрительных конструкций в коде
00:20:21 — Lamator: российский инструмент для проверки ИИ на прочность (ИИ против ИИ)
00:24:28 — Где можно использовать ИИ, а где категорически нельзя (жизнь, здоровье, ценности)
развернуть свернуть