Науковець Джеффрі Гінтон, якого називають піонером у сфері штучного інтелекту, звільнився з Google, щоб попередити людей про ризики нових технологій – про це написали майже всі закордонні ЗМІ.
Чому це важливо: коли деякі з найрозумніших людей, експертів, які створюють технологію, попереджають, що вона може обернутися проти людей і зруйнувати соціальні інститути, і до цього варто прислухатися.
“Я втішаю себе звичайним виправданням: якби я цього не зробив, це зробив би хтось інший”, – сказав Гінтон, який пропрацював у Google понад десять років. “Важко зрозуміти, як ви можете перешкодити поганим акторам використовувати його в поганих цілях”.
В інтерв’ю MIT Technology Review Хінтон розповів, що ШІ перебуває на шляху до того, щоб перевершити можливості людей, і його можна використовувати для “перемоги у війнах або маніпулювання електоратом”. Його попередження послідувало за відкритим листом, підписаним тисячами фахівців у галузі технологій, найвідомішим з яких є Ілон Маск. А листі компанії закликали зробити шестимісячну перерву в роботі над штучним інтелектом, щоб людство могло оцінити всі ризики.
Axios попросила експертів зі штучного інтелекту – розробників усередині компаній, дослідників за їхніми межами та регулювальні органи, – поділитися своїми найімовірнішими побоюваннями з приводу ШІ:
- Кібератаки: правильні підказки тепер можуть генерувати шкідливий код, що працює, що означає нові, масштабніші та дедалі різноманітніші кібератаки. Даріо Амодей, генеральний директор Anthropic, яка є конкурентом ChatGPT, заявив, що масове поширення таких атак є найбільшою проблемою в найближчій перспективі;
- Шахрайство. Забудьте про незграбні електронні листи: використовуючи повідомлення в соціальних мережах та іншу особисту інформацію, нові фішингові та шахрайські схеми за допомогою штучного інтелекту набудуть форми прохань про допомогу, які реально звучать, через фальшиві голоси ваших друзів і родичів;
- Дезінформація. Пропаганда і партизанські атаки будуть оптимізовані алгоритмами і масово поширені технологічними гігантами. Мультимодальний штучний інтелект – текст, мова, відео – може унеможливити для громадськості поділ фактів і вигадки (це теж уже відбувається);
- Спостереження. 70 мільйонів камер відеоспостереження в Америці та нерегульовані персональні дані вже дають змогу зіставляти дані з відзнятим матеріалом. Китай використовує інструменти штучного інтелекту для стеження за уйгурською меншиною;
Що буде далі: в урядів є обмежений час для вжиття заходів, наприклад, шляхом запровадження юридичних обмежень для постачальників штучного інтелекту, але перегони за продуктами штучного інтелекту в технологічній галузі не демонструють жодних ознак уповільнення. Ті, хто задає темп штучному інтелекту, “намагаються діяти швидко, щоб прикинутися, що вони нічого не порушують”, каже Марієтьє Шааке, колишній чиновник ЄС, а нині радник з міжнародної політики в Стенфордському інституті штучного інтелекту.
