Умные командировки, 18.02.2025
ЕС принял первую в истории нормативно-правовую базу, которая определяет правила работы с данными в контексте Искусственного Интеллекта — закон ЕС об ИИ (Al Act), который действует уже более 5 месяцев с августа 2024 года.
Документ определяет риски использования ИИ для сбора и обработки данных и направлен на укрепление лидирующей позиции Европы по защите интересов граждан в глобальном масштабе.
В законе классифицируются различные категории рисков.
Первой обозначена категория неприемлемых рисков и AI Act относит сюда восемь практик, которые запрещены к использованию:
- Манипуляции и дезинформация с использованием ИИ.
- Злонамеренное использование ИИ для эксплуатации уязвимостей пользователей.
- Системы социального рейтинга, применяемые, например, в банковском ритейле.
- Прогнозирование криминального поведения физических лиц.
- Массовый сбор данных из открытых источников и систем видеонаблюдения для создания баз данных распознавания лиц.
- Системы распознавания эмоций на рабочих местах и в учебных заведениях (на Ближнем Востоке такие технологии уже вызывают огромный интерес).
- Удалённая биометрическая идентификация в режиме реального времени в общественных местах с целью использования правоохранительными органами.
- Биометрическая классификация личности, включающая восемь защищаемых характеристик:
- Расовая или этническая принадлежность
- Религиозные убеждения
- Пол или гендерная идентичность
- Сексуальная ориентация
- Наличие инвалидности
- Возраст
- Политические взгляды
- Состояние здоровья
Запрет на биометрическую классификацию направлен на предотвращение дискриминации и защиту права на частную жизнь.
Хоть регулирование ИИ запоздало, принятие AI Act — важный шаг в создании прозрачных и этичных стандартов использования технологий. Хотелось бы верить, что другие страны последуют примеру ЕС: сфера ИИ требует строгого контроля, а государство должно защищать граждан, а не торговать их данными.