ЕГЗИСТЕНЦИЈАЛНИ РИЗИЦИ ВЕШТАЧКЕ ИНТЕЛИГЕНЦИЈЕ: АИ Експерт Јошуа Бенџио упозорава свет

ЈОШУА Бенџио се сматра једним од најутицајних светских компијутерских научника који је добитник Тјурингове награде и Новелове награде за рачунарство за свој рад који сада чини основу свих тренутних АИ модела.

Фото Pixabay free images

2022. године је постао и најцитиранији информатичар на свету и може се са сигурношћу речи да вештачка интелигенција какву тренутно познајемо, не може постојати вез њега.

У интервјуу за Фајненшал пост, стручњак је изразио забринутост колега због брзине напретка АИ система.

- Ја и други смо забринути због брзине напретка. То је мотивисало писма у којима у суштини тражимо од друштва да убрза процес управљања системима вештачке интелигенције са свим потенцијалним проблемима и штетама које би могле бити повезане са свим добрим стварима за које развијамо вештачку интелигенцију. - рекао је.

На питање шта мисли да ће се следеће десити какда је у питању развој и да ли је његово предвиђање разлог за забриност, он је одговорио "Да, наравно" и нагласио да оно што је очекивао да ће се десити се увелико дешава и да очекује глобални разговор на ту тему. Споменуо је да постоји много неизвесности у вези са различитим сценаријима различитих врста штете и да су им потреби не само људи из овог сектора већ друштвени научници, политиколози и економисти како би могли да размишљају о механизмима управљања и контрамерама. 

- То ће потрајати. Потребне су нам владе широм света да побољшају своје законе о вештачкој интелигенцији. Потребно нам је да се заједно усагласе. Потребно нам је много више улагања у врсту истраживања која су потребна да бисмо боље заштитили јавност. Дакле, постоје много важних ствари за које мислим да смо чули неке страшне коментаре да би АИ могао да уништи човечанство од мојих колега. Постоје различити фактори, када ће АИ бити интелигентнији од људи бити, што је по мојој процени, за неколико година, али можда и за неколико деценија - рекао је.

Такође је навео да постоје низ тешких питања као што је стварање нове врсте која је паметнија од нас и како можемо да је контролишемо а да не делује против нас и да га забрињава јер још увек немамо одговоре на то питање, већ само дискусија и потреба да се разимишља на дату тему.

Дотакао се и теме законодавства, за шта је навео да је Европа та која предњачи у погледу закона о вештачкој интелигенцији и сматра да технологија не чека људски спори парламентални процес.

- Циљеви на нивоу и регулација, која се може брзо прилагодити како се технологија буде мењала, ће се бавити неком владином агенцијом, што је заиста важно јер је веома тешко предвидети све потенцијалне злонамерне употребе које ће се појавити у наредном периоду - рекао је он.

Што се тиче могућности и предности АИ у секторима рекао је да, наравно, ИТ компаније имају највише корисити, али се брзо проширује обим и на сектор здравствене заштите што би помогло за будуће пандемије, затим као помоћ са климатским променама, образовањем као и да постоји "златна грозница" због напретка у великим језичким моделима јер они заправо разумеју језик боље него људи.

- Као научник вештачке интелигенције, једна од ствари на које се фокусирам је оно што недостаје, на пример шта треба да урадимо следеће да бисмо ови системи учинили кориснијим, робуснијим. На пример, они ће сада имати тенденцију да понекад халуцинирају, што би људи рекли, што значи да ће говорити ствари које су нетачне, као да су истините, са пуно самопоуздања, а то може бити, наравно, веома опасно. Ако замишљате аутономно возило, не желите да се самоуверено ради када би то могло да буде веома конзервативно врста техничког проблема на који моја група и други истражују.- рекао је у на крају интервјуа.

Недавно је разговарао и у подкасту Тејлора Овена који је поделио своје утиске о њиховом разговору на свом ЈуТјуб каналу.

- Научио сам три заиста занимљиве ствари. Прво, Бенгио је имао својеврсно просвећење, о чему се нашироко говорило у медијима. Бенгио сада верује да, без контроле, вештачка интелигенција има потенцијал да представља егзистенцијалну претњу човечанству. Друго, он заправо мисли да се подела око овог егзистенцијалног ризика, који изгледа да постоји у научној заједници, преиграва. Треће, и заиста занимљиво, он је забринут због подстицаја који су приоритет у овом тренутку комерцијализације АИ. Ово је право упозорење на које мислим да морамо да обратимо пажњу. Нема сумње да је истраживање умногоме допринело тренутном тренутку вештачке интелигенције у којој се налазимо, али се надам да ће његов рад на ризику и безбедности обликовати следећи. - рекао је Овен. 

Препоручујемо

Панорама

0 3

ЈАПАНЦИ ПРАВЕ СУПЕРКОМПЈУТЕР: Такав рачунар свет до сада није видео

25. 09. 2024. у 00:21

Панорама

0 1

ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе

22. 09. 2024. у 22:00

Панорама

0 0

СВЕ ВИШЕ КРЕАЦИЈА АИ: Како вештачка интелигенција замишља пиле пауна (ВИДЕО)

22. 09. 2024. у 00:33

Свет

0 0

ОЗЛОГЛАШЕНА АМЕРИЧКА НУКЛЕАРКА ПОНОВО РАДИ: Мајкософт ће користити њену енергију за своје центре података

20. 09. 2024. у 18:27

Пратите нас и путем иОС и андроид апликације