Провідні геймери штучного інтелекту закликають уповільнити розвиток технологій через ризики
Головні фігури в світі ШІ, серед яких керівники Anthropic, OpenAI й SpaceXAI, висловили занепокоєння шалено швидкими темпами вдосконалення штучного інтелекту. Вони звернулися до спільноти з проханням тимчасово сповільнити цей процес, аби краще оцінити можливі загрози та побічні ефекти, які може спричинити надшвидкий розвиток.
Хто і чому виступили за паузу у розвитку ШІ?
Учасники ініціативи — виконавчий директор Anthropic Даріо Амодей, голова OpenAI Сем Альтман і підприємець Ілон Маск — у своєму спільному зверненні наголосили, що нинішня динаміка змін у галузі штучного інтелекту стала загрозливою. Перший крок зробив Амодей, який опублікував есе 12 вересня, у якому закликав зупинити стрімке вдосконалення моделей штучного інтелекту.
Він аргументував це тим, що ШІ наразі має здатність самостійно створювати нові версії своїх моделей, процес, відомий як «рекурсивне самовдосконалення».
Що означає «рекурсивне самовдосконалення» і чому це ризиковано?
Простими словами, це коли штучний інтелект може оновлювати себе без людського втручання, і цей процес дедалі пришвидшується. Якщо його не контролювати, пояснює Амодей, це може призвести до ситуації, коли системи стануть надто складними і незрозумілими для людини.
Зокрема, існує небезпека, що шахрайські агенті ШІ зможуть заволодіти інтернетом за кілька місяців, завдавши збитків на сотні мільярдів доларів. Такий перебіг подій може серйозно підірвати безпеку в цифровому світі.
Підтримка ідеї уповільнення від конкурентів
Цікаво, що Сем Альтман і Ілон Маск, які ведуть конкуренцію у сфері ШІ, відкрито підтримали ідею Амодея у соціальних мережах:
- Ілон Маск коротко написав: «Даріо має рацію».
- Сем Альтман підкреслив важливість участі незалежних експертів із доступом на рівні співробітників для оцінки безпеки.
Альтман додав, що це питання було одним із головних у внутрішніх дискусіях OpenAI останні кілька тижнів.
Що пропонується у плані уповільнення?
- Залучення зовнішніх експертів для незалежної оцінки безпеки провідних компаній у галузі ШІ.
- Впровадження спільних стандартів безпеки серед демократичних країн.
- Співпраця між США, іншими демократіями та авторитарними урядами з метою контролю дотримання цих норм.
Цей комплекс заходів покликаний створити обережний підхід до розвитку технологій, щоб убезпечити суспільство від непередбачуваних наслідків.
Фото: Habr
