Комітет Oireachtas занепокоєний: діти під загрозою через deepfake і зволікання з регулюванням ШІ

Члени Комітету Oireachtas з питань штучного інтелекту почули тривожні свідчення про те, що діти стають легкою мішенню для deepfake-контенту та онлайн-вербувальників. На слуханнях експерти попередили, що відсутність адекватних правил і зволікання з введенням захисних механізмів загострюють ризики для неповнолітніх.

Noeline Blackwell з Children's Rights Alliance заявила, що її «серйозно турбує нинішня відсутність регулювання і заходів захисту для дітей у швидкоразвиваючій сфері генеративного ШІ», особливо враховуючи, що діти мають менше навичок розпізнавати підробні зображення та маніпуляції. Вона також попередила про групи «ідеологів», які створюють хибний вибір між захистом дитячих прав і правом на приватність — на її думку, ці цілі можна й треба поєднати.

За даними нового звіту Missing Children Europe, до 18 років кожна п’ята дитина в Західній Європі вже стикалася з онлайн-вербуванням або спробами експлуатації. Представники організації пояснили комітету, що Missing Children Europe — це федерація, яка об’єднує 31 місцеву організацію в 26 європейських країнах, і виконуює координаційну роль у виявленні зниклих та сексуально експлуатованих дітей.

Експерти також висловили занепокоєння щодо пропозицій European Commission про «спрощення» EU AI Act. Blackwell попередила, що такі кроки можуть відтермінувати впровадження захисту: «Регулювання ризикових застосувань ШІ, яке мало набути чинності цього року, тепер, найімовірніше, не запрацює раніше кінця 2027 року». Це, на її думку, послабить будь-яку можливу «сітку безпеки» проти шкідливих deepfake-зображень.

Як приклад швидкого розповсюдження шкідливого контенту Olga Cronin з Irish Council for Civil Liberties навела здатність інструменту Grok генерувати сексуалізовані deepfake-зображення і дорослих, і дітей. Експерти наполягають на термінових правилах, які б прямо враховували інтереси дітей: від обов’язкових механізмів виявлення та видалення шкідливого контенту до вимог прозорості й відповідальності для розробників генеративних моделей.

Комітет не визначив остаточних рішень на слуханнях, але закликав до тіснішої співпраці між національними органами, правозахисними організаціями та ЄС для пришвидшення впровадження ефективних заходів. Тим часом експерти радять батькам і школам підвищувати цифрову грамотність дітей, аби зменшити їхню вразливість до фейків і маніпуляцій онлайн.