У США з’явиться незалежна дослідницька лабораторія, яка тестуватиме інструменти штучного інтелекту (ШІ) щодо ризиків для дітей і підлітків — за аналогією з краш-тестами автомобілів, що свого часу суттєво підвищили безпеку на дорогах, повідомляє CNN.
Ініціативу запускає некомерційна організація Common Sense Media, яка відома своїми рейтингами фільмів, ігор та цифрових платформ для батьків і педагогів. Новий проєкт отримав назву Youth AI Safety Institute (Інститут безпеки ШІ для молоді).
Як працюватиме лабораторія безпеки ШІ
Інститут працюватиме як незалежна лабораторія у США та займатиметься «стрес-тестуванням» (red teaming) ШІ-моделей і продуктів, які використовують діти та підлітки.
Його мета — виявляти потенційні ризики: від шкідливих порад чатботів до проблем із приватністю, довірою та безпекою даних.
Як це працюватиме
Дослідники моделюватимуть реальні сценарії використання ШІ дітьми та перевірятимуть:
- чи дають чатботи небезпечні або неприйнятні поради;
- як реагують на запити підлітків у складних емоційних ситуаціях;
- чи можуть системи обходити власні «захисні бар’єри».
Після тестування інститут публікуватиме зрозумілі для батьків і шкіл рейтинги безпеки, а також формуватиме стандарти — своєрідні «бенчмарки» для індустрії (тести продуктивності).
За словами засновників, ідея полягає в тому, щоб створити конкуренцію безпеки: компанії будуть покращувати свої продукти, щоб отримати кращі оцінки.
Хто стоїть за проєктом
Ініціативу підтримали великі гравці технологічного ринку та інвестори, зокрема:
- OpenAI,
- Anthropic,
- Pinterest,
- Walton Family Foundation,
- окремі філантропи та інвестори.
Водночас організатори наголошують: донори не матимуть впливу на результати досліджень або роботу лабораторії.
До наглядової ради увійшли експерти зі Стенфорда, Мічиганського університету та колишня генеральна хірургиня Каліфорнії, що має досвід у сфері здоров’я дітей та технологій.
Бюджет інституту становить 20 мільйонів доларів на рік. Це фінансування забезпечується за рахунок технологічних компаній та благодійних організацій.
Навіщо створюють проєкт із безпеки ШІ
Ініціатори проєкту вважають, що:
- ШІ розвивається надто швидко;
- компанії часто самі оцінюють власну безпеку;
- чинні стандарти більше фокусуються на глобальних ризиках (наприклад, вплив на ринок праці), а не на щоденних ризиках для дітей.
Головна мета — запобігти повторенню ситуації із соціальними мережами, де проблеми з впливом на психічне здоров’я дітей виявилися вже після масового поширення платформ.
Що одержать зацікавлені сторони
Результати роботи інституту планують використовувати:
- батьки — для вибору безпечних ШІ-застосунків;
- школи — для впровадження освітніх технологій;
- технологічні компанії — для вдосконалення продуктів;
- регулятори — для формування політик безпеки
За даними CNN, запуск інституту відбувається на тлі жвавих дискусій про безпеку ШІ для дітей: від позовів родин, які звинувачують чатботи у шкідливих порадах, до випадків небезпечного контенту, який генерували системи штучного інтелекту.
Експерти зауважують: ключова проблема полягає в тому, що ШІ постійно оновлюється, тому ризики можуть змінюватися швидше, ніж їх встигають дослідити.
Джерело: сайт CNN.
Читайте також: Темний бік іграшки із ШІ: на що вона здатна та як захистити дитину?
