Мусково најновије предвиђање: АИ би могла надмашити људску интелигенцију 2030. и могла би "укинути" људе у будућности (1/2)

Извор: Тенцент Тецхнологи Невс 2024-04-04 08:55

Кључне тачке:

① Маск предвиђа да би вештачка интелигенција могла да надмаши ниво људске интелигенције до 2030. године и да би чак могла да уништи људе.

② Муск је говорио о факторима који ограничавају развој АИ. Прошле године снабдевање АИ чиповима је било ограничено, а ове године ће трансформатор за смањење нивоа постати уско грло.

③ Што се тиче времена када људи могу да слете на Месец, Муск предвиђа да ће уз помоћ Старсхипа бити потребно само три године најбрже.

Тенцент Тецхнологи Невс, 4. априла – Према извештајима страних медија, Елон Муск, извршни директор Тесла и СпацеКс-а, недавно је на Самиту Абунданце имао онлајн разговор са Питером Диамандисом, оснивачем Универзитета Сингуларити и КСПРИЗЕ фондације. Домаћин самита био је Универзитет Сингуларити у Силицијумској долини, који је посвећен пружању пословних лидера консалтинга о најсавременијим технологијама. Фондација КСПРИЗЕ промовише технолошке иновације кроз научна такмичења, од којих је неке финансирао Муск, 4. април - Према извештајима страних медија, Елон Муск, извршни директор Тесла и СпацеКс-а, недавно је имао онлајн разговор са Питером Диамандисом, оснивачем Сингуларити-а Универзитет и Фондација КСПРИЗЕ, на самиту Абунданце. Домаћин самита био је Универзитет Сингуларити у Силицијумској долини, који је посвећен пружању пословних лидера консалтинга о најсавременијим технологијама. Фондација КСПРИЗЕ промовише технолошке иновације кроз научна такмичења, од којих је неке финансирао Муск.

Када је разговарао о брзини развоја вештачке интелигенције, Муск је предвидео да на основу тренутне стопе технолошког напретка, вештачка интелигенција може надмашити људску интелигенцију до 2030. године, а ова технологија би чак могла имати потенцијал да уништи човечанство. Међутим, он није заузео песимистички поглед на будућност, већ је нагласио да кроз позитивно вођење, вештачка интелигенција има потенцијал да донесе бољу будућност човечанству.

Маск је напоменуо да се појава суперинтелигенције назива „сингуларност“ управо због њених непредвидивих последица, укључујући ризик од потенцијалног окончања човечанства. Он се сложио са гледиштем „Кума вештачке интелигенције“ Џефрија Хинтона и веровао да је вероватноћа да се овај ризик догоди отприлике између 10 и 20 одсто.

Упркос признавању потенцијалних ризика да вештачка интелигенција надмаши људску интелигенцију, Маск је ипак нагласио да могућност позитивних исхода надмашује негативне последице. Он је посебно поменуо Диамандисову књигу из 2014. „Изобиље: Будућност је боља него што мислите“, која приказује оптимистичну будућност коју воде вештачка интелигенција и роботи, где су цене робе и услуга значајно пале. Поред тога, као најбољи сценарио за полуутопијску будућност вештачке интелигенције навео је серију „Култура” шкотског писца научне фантастике Иаина М. Банкса.

Муск је упоредио развој вештачке интелигенције и вештачке опште интелигенције (АГИ) са одгајањем детета, надајући се да ће то имати позитивније утицаје на човечанство. Нагласио је важност неговања вештачке интелигенције која истински разуме етику и морал, упоредивши је са класичним филмом Стенлија Кјубрика из 1968. „2001: Одисеја у свемиру”.

Маск је истакао да је најважнији аспект безбедности вештачке интелигенције обезбеђивање њеног максималног трагања за истином и радозналости. Он верује да кључ за постизање крајње безбедности вештачке интелигенције лежи у избегавању присиљавања да лаже, чак и пред лицем непријатних истина. Користио је заплет из „2001: Одисеја у свемиру” као пример, где је вештачка интелигенција била приморана да лаже, што је резултирало смрћу посаде, да би нагласио да вештачку интелигенцију не треба присиљавати да ради било шта што крши аксиоме.

Муск је такође навео факторе који могу да ограниче развој вештачке интелигенције, као што су ограничена понуда чипова за вештачку интелигенцију која се појавила прошле године и све већа потражња за трансформаторима за смањење нивоа у кућној и комерцијалној опреми. Он је навео да су ови изазови заиста актуелна питања којима се треба бавити.

Током дискусије, две стране су разговарале и о концепту интеграције неокортекса људског мозга са облаком. Иако Муск верује да је циљ отпремања људске свести и меморије у облак још увек далеко, он је похвалио свој стартуп интерфејса између мозга и рачунара, Неуралинк, и његовог првог човека који је добио трансплантацију. Овај тетраплегични пацијент је успешно демонстрирао уживо кроз испитивање које је одобрила ФДА, контролишући екран, играјући видео игрице, преузимајући софтвер и постижући сличне функције као и операције миша преко можданих имплантата. Муск је изјавио да Неуралинк глатко напредује и да се постепено креће ка циљу интерфејса са пуним мозгом.

Следи цео текст дијалога између Муска и Диамандиса:

1. Моћ и опасност суперинтелигенције

Диамандис: Честитам на вашим изузетним достигнућима у различитим областима. Активно промовишете концепт дигиталне суперинтелигенције у свету – да ли је то највећа нада човечанства или наш најдубљи страх? Можете ли провести неколико минута разговарајући о овом питању?

Муск: Као што знате, суперинтелигенција се може назвати "сингуларитетом". Популаризација овог термина је неодвојива од напора институција попут Института Сингуларити. Појаву суперинтелигенције и њен утицај је заиста тешко предвидети. Лично верујем да заиста постоји могућност да то укине човечанство. Као што сам рекао раније, могао бих се сложити са ставом Џефрија Хинтона да постоји 10% или 20% шансе да би суперинтелигенција могла да оконча човечанство. Међутим, склон сам да верујем да је вероватноћа позитивног сценарија већа од негативног, иако нам је тешко да правимо тачна предвиђања. Али пошто сте у својој књизи нагласили концепт „обиља“, верујем да је највероватнија будућност којој идемо она пуна обиља.

Диамандис: Ваше гледиште је веома узбудљиво. Сећам се да сте једном рекли да ће нас развој опште вештачке интелигенције и хуманоидних робота довести до изобиља.

Муск: Да, надам се да наша будућност може бити попут оне која је приказана у серији књига Иана Банкса „Култура“. Мислим да је ово најбоља концепција полуутопијског друштва вештачке интелигенције. Појава суперинтелигенције је неизбежна и може доћи ускоро. Стога, оно што заиста треба да урадимо је да га водимо у позитивном правцу и максимизирамо његове предности.

Верујем да је начин на који негујемо вештачку интелигенцију кључан. У извесној мери, ми смо као да негујемо животни облик опште интелигенције, што је скоро као подизање детета, али ово дете поседује изузетну мудрост и таленат. Начин на који одгајамо децу је важан, а сходно томе, за безбедност вештачке интелигенције, кључно је имати вештачку интелигенцију која тражи истину и пуна је радозналости. Дубоко сам размишљао о безбедности вештачке интелигенције и дошао сам до закључка да је најбољи начин да се постигне безбедност вештачке интелигенције пажљиво неговање.

У погледу основних модела и финог подешавања, морамо осигурати поштење вештачке интелигенције. Не можемо га натерати да лаже, чак и ако је истина непријатна. У ствари, један од кључних заплета у „Одисеји у свемиру 2001.“ је да када је вештачка интелигенција приморана да лаже, ствари постају хаотичне. Вештачкој интелигенцији је забрањено да обавести посаду о мистериозном споменику који ће видети, али је обавезна да их води тамо. Као резултат тога, вештачка интелигенција закључује да је најбоље побити посаду и њихова тела однети до споменика. Поука је дубока: не би требало да форсирамо вештачку интелигенцију да лаже или да ради нешто што је аксиоматски некомпатибилно, као што је да радимо две заправо контрадикторне ствари у исто време.

Стога овај циљ остварујемо кроз пројекте као што су кАИ и Грок. Оно што тежимо је вештачка интелигенција која је што је могуће искренија, чак и ако њен говор можда не испуњава одређене политички коректне стандарде.

2. Будућност вештачке интелигенције

Диамандис: Јуче сам присуствовао догађају са Рејем Курцвајлом (оснивачем Универзитета Сингуларити и технолошким пророком), Џефријем Хинтоном, Ериком Шмитом (бившим председником Гугла) и другим гостима. Приметио сам ваш твит о Курзвајлу, а његов 预见 за будућу технологију прилично је окренут будућности. Курцвајл је предвидео да ћемо у блиској будућности имати општу вештачку интелигенцију, а вештачка интелигенција еквивалентна људској интелигенцији ће се појавити 2029. Таква брзина је шокантна. Питам се шта мислите о овоме?

Муск: Веома поштујем Курцвајлова предвиђања. У ствари, мислим да би његова предвиђања могла бити чак и помало конзервативна. Посматрајући тренутну рачунарску снагу и таленат уложен у област вештачке интелигенције, као и брзи раст рачунарске снаге, можемо утврдити да се брзина развоја вештачке интелигенције повећава запањујућом брзином од 10 пута. Чини се да се наменска рачунарска снага вештачке интелигенције повећава 10 пута сваких 6 месеци, што скоро значи повећање од најмање 100 пута годишње. Овај тренд раста ће наставити да расте у наредних неколико година.

Вреди напоменути да ће се многи центри података, чак и већина центара података који тренутно обављају конвенционално рачунарство, постепено трансформисати у објекте који подржавају рачунарство са вештачком интелигенцијом. Стога, за произвођаче хардвера вештачке интелигенције, компаније попут НВИДИА несумњиво су увеле златни период развоја. Морамо одати пуно признање Хуангу Ренкуну и његовом тиму. Они су предвидели овај тренд и успешно развили водећи хардвер вештачке интелигенције који је тренутно на тржишту.

Када рачунарска снага расте тако запањујућом брзином, развој вештачке интелигенције је као да вам се убризгава моћан стероид, који скаче на потпуно нови ниво. Како број онлајн рачунара наставља да расте, сведоци смо убрзаног развоја без преседана. Заправо, никада нисам видео да било која технологија расте тако брзо као вештачка интелигенција. Иако сам видео многе технологије које се брзо развијају, успон вештачке интелигенције ме и даље одушевљава. Међутим, као што сам рекао, мислим да ће коначни резултат вероватно бити позитиван.

Иако се суочавамо са многим изазовима, као што је како одржати људску релевантност у овој области и како пронаћи нове циљеве и значења, мислим да је превише поједностављено наглашавати да рачунари могу бити добри у свему.

Као што сте раније споменули, мислим да су предвиђања ваше књиге о будућем друштву веома тачна. То је ера материјалног обиља, где ће роба и услуга бити толико богата да су готово свима надохват руке. Због широке примене технологије вештачке интелигенције и роботике, цена робе и услуга биће скоро сведена на нулу. Економија је у суштини производ величине становништва и просечне продуктивности по особи. Када будемо имали напредну роботску технологију, као што је Теслин Оптимус, економски потенцијал ће се заиста ослободити.

Теслини аутомобили, као роботи на четири точка, већ су показали снажне способности. Очекује се да ће најновија верзија са могућностима потпуно аутономне вожње постићи контролу од краја до краја засновану на вештачкој интелигенцији, чинећи аутомобил заиста интелигентним роботом на точковима. Заједно са развојем хуманоидних робота, могућност економског резултата је скоро неограничена.

Из оптимистичне перспективе, крећемо се ка будућности екстремног материјалног обиља, што је, верујем, највероватнији исход. Мислим да ће једина могућа оскудица у будућности бити оскудица коју стварамо вештачки, као што су одређена уникатна уметничка дела или одређени предмети. Али поред тога, свака роба и услуга ће постати изузетно обилна.

Диамандис: Ви сте особа која може да обликује будућност кроз практичне акције и има оштар увид у будуће трендове. Суочен са брзим развојем тренутне технологије, веома сам радознао колико далеко у будућност мислите да можете да увидите, односно колико година трендова развоја од сада?

Муск: У ери брзих промена, способност предвиђања будућности постаје све важнија. Иако је будућност пуна неизвесности, верујем да су неки трендови јасно видљиви. Увешћемо еру вештачке интелигенције, а њене способности ће достићи или чак надмашити људске нивое у било ком когнитивном задатку. Ово је само питање времена. Људи могу имати различите погледе на то да ли ће то бити крај следеће године, две или три године. Ипак, једно је сигурно, то јест неће прећи пет година. Моје предвиђање је засновано на вероватноћи од 50%, што није апсолутно. Али према мом мишљењу, вештачка интелигенција ће вероватно надмашити способности било ког појединца у одређеним аспектима пре краја следеће године.

Што се тиче тога да ли превазилази људску колективну мудрост, може потрајати дуже. Ако се темпо промена настави, процењујем да ће око 2029. или 2030. дигитална интелигенција вероватно надмашити збир целокупне људске интелигенције. Када посматрам ова питања, тежим да усвојим метод основних односа, баш као и први принципи у физици. Комбиновањем ове методе са анализом вероватноће можемо прецизније схватити будуће трендове развоја.

Ако упоредимо могућности дигиталног рачунарства са биолошким рачунарством, и саберемо све људске напредне когнитивне способности као неку врсту рачунарске моћи, а затим упоредимо са дигиталном рачунарском снагом, видећете да је стопа раста овог односа запањујућа. Стога верујем да је 2029. или 2030. разуман временски чвор. У то време, акумулирана дигитална рачунарска моћ ће вероватно надмашити акумулирану биолошку рачунарску моћ напредних функција мозга. Од тада ће јаз између њих двоје наставити да се шири и неће бити могућности за сужавање.

Међутим, када стојимо на овој полазној тачки и гледамо у будућност, како ће се ствари даље развијати? Да будем искрен, не могу да предвидим све детаље. Али ако узмемо у обзир факторе раста и ограничавајуће факторе са којима се могу суочити, наћи ћемо неке занимљиве трагове.

Прошле године су ограничења у снабдевању чиповима била главни ограничавајући фактор за развој вештачке интелигенције. Ове године ће трансформатори за смањење нивоа постати кључно уско грло. Замислите да смањите напон од 300 киловолти на мање од 1 волта који је потребан рачунару. Ово је велики изазов. Због тога су нам потребни ефикаснији „Трансформатори за трансформаторе“, који су трансформатори за смањење нивоа или трансформатори АИ неуронске мреже. Ово је заиста велики проблем ове године.

Гледајући унапред у наредних неколико година, снабдевање електричном енергијом може постати главни ограничавајући фактор. Вештачка интелигенција има огромну потражњу за електричном енергијом, а прелазак на одрживу енергију и популарност електричних возила такође су појачали потражњу за електричном енергијом. Због тога морамо озбиљно размислити како задовољити растућу потражњу за електричном енергијом како бисмо осигурали континуирани развој и примјену ових технологија.