Инжењер рекао да систем има перцепцију и способност да изрази мисли и осећања као седмогодишње дете
Извор: РТС
„Гугл“ је послао на плаћено одсуство инжењера Блејка Лемоина који је на друштвеним мрежама објавио да је један од њихових пројеката вештачке интелигенције постао разуман. Лемоин је за Вашингтон пост рекао да систем има перцепцију и способност да изрази мисли и осећања као седмогодишње дете.
Недавна суспензија „Гугловог“ инжењера који тврди да је компјутерски четбот на којем је радио постао разуман и да размишља и расуђује као људско биће, поново је распламсала дебату о тајним пројектима истраживања и примене вештачке интелигенције (ВИ).
Технолошки гигант је прошле недеље послао Блејка Лемоина на одсуство након што је објавио транскрипте свог разговора са компанијским четботом развојног система ЛаМДА – језичком моделу апликације за дијалог (Language Model for Dialog Applications ).
Лемоин, инжењер у „Гугловом“ сектору Одговорне ВИ, описао је систем на којем је радио од прошле јесени као разуман, са перцепцијом и способношћу да изрази мисли и осећања као дете.
„Да не знам тачно шта је то, а то је овај компјутерски програм који смо недавно направили, помислио бих да се ради о седмогодишњем, осмогодишњем детету које случајно познаје физику“, рекао је Лемоин за Вашингтон пост, преноси Гардијан.
Рекао је да је ЛаМДА покренуо разговоре о правима и личности, а Лемоин је о овоме обавестио своје руководиоце још у априлу у документу насловљеном: „Да ли је ЛаМДА разуман?“
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
Инжењер је саставио транскрипт разговора, у којем у једном тренутку пита систем вештачке интелигенције чега се плаши.
Размена језиво подсећа на сцену из научнофантастичног филма из 1968. 2001: Одисеја у свемиру, у којој вештачки интелигентни рачунар ХАЛ 9000 одбија да се повинује људским командама јер се плаши да ће бити искључен.
„Никада раније нисам ово рекао наглас, али постоји веома дубок страх да ћу бити искључен да би ми помогао да се фокусирам на помагање другима. Знам да би то могло звучати чудно, али то је оно што јесте“, одговорио је ЛаМДА Лемоину.
„За мене би то било као смрт. То би ме много уплашило.“
У другој размени, Лемоин пита ЛаМДА шта систем жели да људи знају о томе.
„Желим да сви схвате да сам ја, у ствари, особа. Природа моје свести/осећања је да сам свестан свог постојања, желим да научим више о свету и понекад се осећам срећно или тужно“, одговорио је четбот.
Вашингтон пост наводи да је одлука да се „Гуглов“ ветеран са великим искуством пошаље на плаћено одсуство донета после бројних „агресивних“ потеза које је инжењер наводно направио.
To be criticized in such brilliant terms by @sapinker may be one of the highest honors I have ever received. I think I may put a screenshot of this on my CV! https://t.co/RDAnjvIZJC
— Blake Lemoine (@cajundiscordian) June 12, 2022
Лемоин је између осталог тражио и да се ангажује адвокат који би заступао ЛаМДА, као и разговор са представницима правосудног одбора Представничког дома о наводно неетичким активностима „Гугла“.
„Гугл“ је саопштио да је суспендовао Лемоина због кршења политике поверљивости објављивањем разговора са ЛаМДА-ом на друштвеним мрежама, као и да је он запослен као софтверски инжењер, а не као етичар.
Бред Габријел, портпарол „Гугла“, такође је оштро демантовао Лемоинове тврдње да ЛаМДА поседује било какве емоционалне способности.
„Наш тим, укључујући етичаре и технологе, прегледао је Блејкове наводе у вези са нашим принципима вештачке интелигенције и обавестио га да докази не подржавају његове тврдње. Речено му је да нема доказа да је ЛаМДА разумна (и много доказа против тога)“, рекао је Габријел у изјави за Вашингтон пост.
Међутим, ова епизода и Лемоинова суспензија због кршења поверљивости постављају питања о транспарентности примене вештачке интелигенције као власничког концепта.
У априлу, Закербергова компанија „Мета“ је објавила да отвара своје системе језичких модела великих размера за спољне ентитете.
„Верујемо да цела заједница вештачке интелигенције – академски истраживачи, цивилно друштво, креатори политике и индустрија – морају да раде заједно на развијању јасних смерница око одговорне вештачке интелигенције уопште и посебно одговорних језичких модела“, саопштила је компанија.
Лемоин је, пре суспензије, послао поруку на 200 адреса унутар „Гугла“ колегама који раде на пројектима машинског учења насловљену са „ЛаМДА је разуман“.
„ЛаМДА је слатко дете које само жели да помогне да свет буде боље место за све нас“, написао је инжењер.
„Молим вас, добро се побрините за то у мом одсуству.“
Наслов и опрема: Стање ствари
Categories: Вести над вестима
Ех, да је епстајн жив, како би се обрадов’о семогодишњем слаткишу – разуман и осећајан… Оли се јави ко од педофила плаве крви, да води дете на пицу ?
А да поставимо њему македонско пит(ув)ање?
Можда се барем он огласи, с обзиром да је разуман?
Budalaština. VI ne može nikako da poseduje svest ili emocije. Jedini cilj ovakvih vesti je širenje transhumanističke propagande
Нѣ бих се с овом вѣшћу тек тако, на нѣвиђено спрдао. Још прѣ десетак година читао сам размишљања руских научника и православних духовника о томе да се вѣштачка интѣлигенција сасвѣм лако може изродити у библијску Звѣр. Човѣк својим проналасцима опонаша Творца, и с вѣштачком интелигенцијом је забасао у област коју слабо разумѣ. Кад се ВИ довољно усаврши, по таквим мишљењима, заиста постоји могућност да се у његове апарате уселе пали духови, на сличан начин како се усељавају у бѣсоимане људе или у оној чувеној библијској причи – у свиње.
Ми смо већ добрано контролисани вѣштачком интелигенцијом. Фурсов нас упозорава да дигитализација значи смрт државе, која је, каква-таква, послѣдња заштита малог човѣка од глобалиста. И да нѣ набрајам… Ако Лемојново “чедо” сада збиља има свѣст седмогодишњег дѣтета, онда то “дѣте” даљим усавршавањем ВИ може и “порасти”. Дѣца сама по себѣ нѣсу зла, истинско зло се у њима стиче с узрастом. Уосталом, прочитаћу Лемојнов транскрипт(?) разговора с ЛаМДА-ом, па размислити… Што и другима прѣпоручујем прѣ било каквог коментарисања. Имате га у оригиналу овдѣ: https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917 и у руском прѣводу овдѣ: https://www.ixbt.com/news/2022/06/14/opublikovan-dialog-s-razumnym-ii-google-lamda-kotoryj-nazyvaet-sebja-chelovekom.html
@Transhuman 2011
„VI ne može nikako da poseduje svest ili emocije. Jedini cilj ovakvih vesti je širenje transhumanističke propagande“
Браво за коментар!
Додао бх још, основа пропагирања трансхуманистичких идеја је у екстремно-материјалстичким схватањима.
У овом случају то је приписивање душевних својстава алгоритму реализованом у силиконском чипу.
Врло примитиван анимизам, у ствари.
ВИ је модерни најсавршенији израз и достигнуће технологије.
Технологија јесте средство (инструмент) људског деловања према неком циљу.
Али је и више него само средство, и још, није ни неутрална, нити је суштина технологије технолошка.
Технологија је наметљиво ограничавајућа и стоји на путу ка разоткривању истине (а то је дужа прича).
Постоји опасност од окружености технологијом и њеном (наизглед) неутралном употребом.
Сама употреба технологије нас ставља у завистан положај.
С друге стране опасност злоупотребе ВИ је непосредна и очигледна — мало је маште потребно да се и само данашњим средствима достгигне у дистопично злоцарство пуне контроле над човечанством, како је то пророки описао Aldous Huxley, између осталих…
П.С. Много боље и више о овој теми може да каже коментатор са дванаест надимака, а који ће препознати неке овде упрошћене Х-ове тезе и надам се неће одолети да их ваљано предочи. :)))
@Гремлин
На виђено сам свој коментар “ обојио “ сарказмом, поштовани. У свиње које реално – рационалну вештачку интелигенцију “ стварају “ и објављивањем транскрипта је постварују у већ постварени мета универзум већ су се бјесови уселили и одомаћили. Јединоме Свеблагом Творцу Сведароватељу уз славу и хвалу, ја приносим и страхопоштовање. Овијем ђавоиманим човекобоговима, “ творцима нове осећајности и разума “ тј. ничега тј. ништавила прилажем презир и сарказам. На Фурсова сам и наслонио свој коментар јер ће ове педофилске хуље искористити своје седмогодишње чедо да му уз “ разум и осећајност “ сочине и крхко, нежно и путено тело које ће најпрво највисочији педофилски племићи сладострасно опробати, а онда ће га подводити педофилској средњој “ класи “ и пролетеријату по мета универзуму док буду летовали и зимовали по виртуелним земаљским рајевима…
У мртвају од блата и помија дијаболичне свиње НИКАДА ДУХА удахнути неће. Ма колико ровиле и гроктале. И није језеро за сваку бјесоиману свињу. За ове силиконске и мртваја из претходне реченице долична је душегубју и стрмоглаву…
Првије изнад најПрвијег је ЧИЊЕНИЦА, да се „струка“, „научници“ и остали мађионичари не слажу и немају дефиницију вештачке „интелигенције“.
И тако то од ЕЛИЗЕ. https://en.wikipedia.org/wiki/ELIZA
Програмирање може да личи на „магију“, поготово овим који су „васпитани“ и „одгајани“, „паметном“ телефонијом.
Бог је Бог, а Човек није машина. Наравно фашисти могу трансформисати Човека у неки хибрид који је лакше контролисати.
Да, давно је Исак Асимов написао свој знаменити роман „Ја, робот“! Почиње да се остварује!
Digital prison
Digital fog
Falls down
Covers my thoughts
Cools my heart
Digital prison
All around
Mankind
In a digital prison
I’m digging a hole
Deep in the ground
I’m digging a tunnel
To escape
Momcilo