Як “Жінки в медіа” зробили перевірку ШІ доступною українською
Громадська організація «Жінки в медіа» переклала українською мовою посібник ЮНЕСКО під назвою «Red Teaming: Перевірка штучного інтелекту в інтересах суспільного блага». Такий крок створює нові можливості для розуміння складних аспектів тестування ШІ, роблячи цей процес більш прозорим і зрозумілим для широкого кола фахівців та активістів у сфері медіа й технологій.
Що таке «red teaming» і навіщо це потрібно?
Посібник концентрується на підході «red teaming» — методу, який полягає у навмисному випробуванні систем штучного інтелекту на слабкі місця. До уваги беруться можливі вразливості, небезпечні сценарії, упередження та інші фактори, що можуть загрожувати безпеці і етиці перед тим, як технології почнуть широко застосовуватися.
Основні елементи концепції «red teaming»:
- інтенсивне тестування моделей ШІ на різні типи загроз;
- виявлення і нейтралізація потенційних маніпуляцій та дискримінацій;
- аналіз ризиків, пов’язаних із відтворенням гендерних та соціальних стереотипів;
Чому це важливо саме для України?
В організації наголошують, що вітчизняний ринок та суспільство наразі мають брак практичних та доступних тематичних матеріалів українською мовою, які розкривали б принципи безпечного й етичного використання ШІ. Тож цей переклад допомагає подолати інформаційний розрив і активно включає українських експертів, журналістів, громадських діячів та державні структури в обговорення та впровадження цих практик.
Крім того, у країні стрімко зростає використання штучного інтелекту, а також відбувається розвиток власної великої мовної моделі «Сяйво», перші тести якої вже тривають. Відтак підвищується потреба в тому, щоб такі технології були не лише потужними, а й безпечними, надійними і вільними від дискримінаційних упереджень.
Коментар від голови Громадської організації «Жінки в медіа»
Ліза Кузьменко, керівниця організації, підкреслила, що «red teaming» — один з найефективніших інструментів перевірки надійності національних ШІ-рішень. Вона зауважила, що саме завдяки цим методам можна виявити та усунути можливі маніпуляції, стереотипи та загрози безпеці, що часто здатні непомітно поширюватися в алгоритмах.
Особливості гендерної чутливості в тестуванні ШІ
Особливої уваги посібник приділяє гендерній чувствительности, акцентуючи, що ризики штучного інтелекту мають різний вплив на жінок і чоловіків. Це проявляється в:
- відтворенні застарілих гендерних стереотипів;
- посиленні онлайн-насильства і мови ворожнечі проти певних груп;
- використанні ШІ для створення дискредитаційного чи наклепницького контенту щодо журналісток і активісток.
Посібник також рекомендує тестувати, чи не генерує система шкідливі образи або упередження, які можуть вплинути на громадську думку або призвести до дискримінації.
Де ознайомитись із посібником?
Завантажити та прочитати детальніше про «Red Teaming: Перевірка штучного інтелекту в інтересах суспільного блага» можна за посиланням, доступним на сайті громадської організації «Жінки в медіа».
Фото: ГО «Жінки в медіа»
