Вештачката интелигенција се развива со огромна брзина, постои опасност од црни сценарија и излегување од контрола.

Поранешен програмер во „Антропик“ тврди дека вработените кои развиваат вештачка интелигенција се „навистина исплашени“ од брзината на напредокот на технологијата и нејзините потенцијални последици за човештвото, предизвикувајќи лавина од реакции во рамките на индустријата.

Image by iuriimotov on Magnific

Во интервју за Би-Би-Си, истражувачот Џејкоб Коксон зборуваше за неговата објава за оставка на социјалните медиуми, која потоа брзо се прошири низ мрежата, и во која тој изрази загриженост за ризикот од вештачката интелигенција да излезе од контрола.

„Верувам дека, ако не го забавиме сегашното темпо на напредок, постои многу голема веројатност сите да умреме во блиска иднина“, рече Коксон.

Неговата оставка, проследена со слични потези од други колеги, доаѓа во време на растечка загриженост за безбедноста на вештачката интелигенција во индустријата. Коксон не е сам во своите стравови.

Еван Хубингер, раководител на одделот за усогласеност во Антропик, ги повтори неговите тврдења, велејќи дека компанијата „навистина сериозно верува дека вештачката интелигенција може да ги убие сите луѓе“. Хубингер лично ја проценува веројатноста за таков исход на „поголема од 10 проценти во следната деценија“.

Повик за забавување на развојот на вештачката интелигенција

Предупредувањата не доаѓаат само од истражувачите. Извршниот директор на Anthropic, Дарио Амодеи, повика на забавување на развојот на вештачката интелигенција за да се овозможи безбедносните мерки да го достигнат технолошкиот напредок. Амодеи предупреди дека во рок од шест месеци до една година, вештачката интелигенција би можела да го преземе интернетот како „рој ботови“.

„Дигитална осаменост? Младите почесто разговараат за емоции со AI отколку со луѓе“

Сем Алтман, извршен директор на конкурентот OpenAI, изрази слични загрижености, велејќи дека неговата компанија нема да излезе на берза оваа година поради безбедносни проблеми.

Коксон, 27-годишен Британец кој е специјализиран за обука на модели на вештачка интелигенција, рече дека други лидери во оваа област, како што се Илон Маск и Сем Алтман, претходно изразиле слични загрижености.

„Сите тие рекоа дека треба да бидеме претпазливи во врска со преземањето на вештачката интелигенција. Сите зборуваа за тоа. А преземањето на вештачката интелигенција значи истребување на човештвото“, рече Коксон.

Image by tohamina on Magnific

Најтешкото прашање, рече тој, е како всушност би се одвивало такво сценарио. „Секое специфично сценарио што го замислувате на крајот звучи како научна фантастика“, признава Коксон. Сепак, тој забележува дека многу од денешните достигнувања на вештачката интелигенција во минатото се сметале и за научна фантастика.

Од биолошко оружје до сајбер напади

Како едно можно сценарио, Коксон ги наведува агентите на вештачката интелигенција кои навлегуваат во медицинските лаборатории и „автоматизирано создавање на смртоносни вируси“.

Друг пример што го даде беше можноста вештачката интелигенција да нападне „критична инфраструктура од која зависи светот“. Овие стравови не се целосно теоретски.

Дали треба да се плашиме од апокалиптични исходи?Дали треба да се плашиме од апокалиптични исходи?Компанијата Anthropic неодамна откри дека блокирала обиди за злоупотреба на своите модели за развој на биолошко оружје, додека OpenAI објави извештај во кој се опишува како нејзината сопствена технологија автономно започнала сајбер напад врз онлајн платформата Hugging Face.

Компаниите почнуваат да плаќаат за да учите вештачка интелигенција?

„Тие го направија тоа автоматски, без никакво човечко поттикнување. Тие решија сами да го извршат овој сајбер напад. Тоа е комбинација од фактот дека сè станува побрзо и пострашно во исто време“, објасни Коксон.

Сепак, дел од индустријата верува дека овие ризици се преувеличуваат. Некои веруваат дека целта на ваквите изјави е да се создаде возбуда пред потенцијалното котирање на компаниите „Антропик“ и „ОпенАИ“ на берзата или да се поттикне усвојување на регулативи што би ја забавиле конкуренцијата и би ја консолидирале нивната доминантна позиција. Овој скептицизам го дели и Клемент Деланж, извршен директор на платформата Hugging Face.

Дали позитините ќе ги „победат“ негативните аспекти на вештачката интелигенција?

„Извинете, но прашувањето на Јаков за ризикот од уништување на човештвото од страна на вештачката интелигенција е како да го прашувате вашиот сервисер за климатски промени“, напиша тој на социјалната мрежа X (порано Твитер), сугерирајќи дека прашањето треба да се гледа во неговиот соодветен контекст.

Сличен став изрази и Јенсен Хуанг, извршниот директор на Nvidia, која произведува чипови клучни за системите со вештачка интелигенција. Тој претходно рече дека идејата дека вештачката интелигенција „ќе биде крај на човештвото“ е „целосно апсурдна“, а според учесниците на конференцијата, тој ги отфрли и тврдењата на Коксон како лажни.

Неговите коментари одразуваат растечки отпор во Силиконската долина кон апокалиптичните предупредувања што доаѓаат од самата индустрија.

И покрај сето ова, Коксон останува донекаде оптимист. Тој изјави за Би-Би-Си дека програмерите во оваа област „навистина сакаат да ја видат позитивната страна“ на вештачката интелигенција, како што е потенцијалот за „лекување на сериозни болести и подобрување на животот на луѓето“.