ЕС принимает первый закон о защите от рисков искусственного интеллекта
Европейский союз принял инициативу стать первым в мире, который введет законодательные меры для регулирования развития искусственного интеллекта (ИИ) и обеспечения защиты граждан от его потенциальных негативных последствий.
В среду Европарламент проголосовал за соответствующий законопроект. Однако это только первый шаг в процессе: окончательный вариант закона должны согласовать три основные ветви власти ЕС — Комиссия, Парламент и Совет. Ожидается, что закон вступит в силу не ранее 2025 года.
В законе системы ИИ разделены на группы по степеням риска, который они несут для европейских граждан и потребителей, и для каждой группы введены свои ограничения и меры контроля.
Совсем запрещены будут, например, системы, созданные для того, чтобы влиять на подсознание людей, а также системы биометрического распознавания, работающие в режиме реального времени.
Системы, создающие контент — такие, как ChatGPT — должны будут, в частности, четко маркировать свою продукцию и не выдавать ее за творчество живых людей.
В Законе об ИИ, который центральные европейские органы разрабатывали два года — и недавно внесли новые правки в связи с появлением феномена ChatGPT-4 — системы искусственного интеллекта разделены на четыре группы: группа «неприемлемого риска», группа «высокого риска», «генерирующие» системы и группа «ограниченного риска».
В группу «неприемлемого риска» зачислены:
-системы, созданные для воздействия на подсознание людей
-системы социального рейтинга, разделяющего людей на категории по их поведению, социально-экономическому положению и прочим личным характеристикам
-системы распознавания в режиме реального времени
Все они будут в Европе запрещены, исключение сделано для использования систем распознавания правоохранительными органами постфактум и с разрешения суда.
В группу «высокого риска» попали
системы, применяющиеся в товарах и услугах, которые в ЕС попадают под лицензирование в рамках защиты потребителей. Это, например, игрушки, автомобили, авиация, медицинская аппаратура
системы управления критически важной инфраструктурой
системы, применяемые в образовательных учреждениях или в работе с персоналом фирм и учреждений
системы, применяемые в правоохранительных органах, работе с мигрантами и беженцами и в охране границ
Все эти системы ИИ будут оцениваться до их внедрения и по ходу применения и регистрироваться в специальной базе данных ЕС.
Владельцы систем, генерирующих контент, таких как ChatGPT, должны будут
-помечать созданный ими контент
-программировать их так, чтобы они не создавали противозаконный контент
-обнародовать списки данных, которые защищены авторским правом и на которых обучалась система
Все прочие системы ИИ включены в группу «низкого риска», от них требуется лишь быть достаточно открытыми — чтобы пользователь знал, что имеет дело с ИИ, и имел достаточно информации, чтобы принять обоснованное решение, пользоваться ли им дальше.
