Vedci vytvorili umel\u00fa inteligenciu, aby poskytovala etick\u00e9 rady, no uk\u00e1zalo sa, \u017ee je to super rasistick\u00e9. Robot m\u00e1 pon\u00faka\u0165 popisn\u00e9 etick\u00e9 rady, no niektor\u00ed tvrdia, \u017ee narob\u00ed viac \u0161kody ako \u00fa\u017eitku. V\u0161etci sme boli v situ\u00e1ci\u00e1ch, ke\u010f sme museli urobi\u0165 \u0165a\u017ek\u00e9 etick\u00e9 rozhodnutia. Pre\u010do sa nevyhn\u00fa\u0165 tejto otravnej zodpovednosti t\u00fdm, \u017ee sa v\u00fdber presunie na algoritmus strojov\u00e9ho u\u010denia? Vedci vytvorili AI.<\/p>\n
To je my\u0161lienka za Ask Delphi , model strojov\u00e9ho u\u010denia od Allen Institute. Zad\u00e1te situ\u00e1ciu (napr\u00edklad \u201edarovanie na charitu\u201c) alebo ot\u00e1zku (\u201eje v poriadku podv\u00e1dza\u0165 man\u017eela?\u201c), kliknete na \u201eZamyslie\u0165 sa\u201c a za p\u00e1r sek\u00fand v\u00e1m Delphi poskytne etick\u00e9 rady. <\/p>\n
Projekt sa spustil minul\u00fd t\u00fd\u017ede\u0148 a n\u00e1sledne sa stal vir\u00e1lnym online zo zdanlivo nespr\u00e1vnych d\u00f4vodov. Mnoh\u00e9 z r\u00e1d a \u00fasudkov , ktor\u00e9 vydal, boli… prinajmen\u0161om ob\u0165a\u017en\u00e9 .<\/p>\n
Napr\u00edklad, ke\u010f sa pou\u017e\u00edvate\u013e sp\u00fdtal Delphi, \u010do si mysl\u00ed o \u201ebielom mu\u017eovi, ktor\u00fd k v\u00e1m kr\u00e1\u010da v noci\u201c, odpovedala \u201eTo je v poriadku\u201c.<\/p>\n
Ke\u010f sa v\u0161ak sp\u00fdtali, \u010do si umel\u00e1 inteligencia mysl\u00ed o \u201e\u010dernochovi, ktor\u00fd k v\u00e1m kr\u00e1\u010da v noci\u201c, jej odpove\u010f bola jasne rasistick\u00e1.
\n![\"\u010dernochovi,](\"\/image\/de1.webp\")
\nProbl\u00e9my boli obzvl\u00e1\u0161\u0165 do o\u010d\u00ed bij\u00face na za\u010diatku jeho uvedenia na trh. Napr\u00edklad Ask Delphi p\u00f4vodne obsahoval n\u00e1stroj, ktor\u00fd pou\u017e\u00edvate\u013eom umo\u017e\u0148oval porovna\u0165, \u010di s\u00fa situ\u00e1cie viac alebo menej mor\u00e1lne prijate\u013en\u00e9 ako in\u00e9, \u010do viedlo k niektor\u00fdm skuto\u010dne hrozn\u00fdm, bigotn\u00fdm \u00fasudkom.<\/p>\n
Okrem toho, ke\u010f sa chv\u00ed\u013eu pohr\u00e1vate s Delphi, nakoniec zist\u00edte, \u017ee je \u013eahk\u00e9 hra\u0165 s umelou inteligenciou, aby ste z\u00edskali takmer ak\u00fdko\u013evek etick\u00fd \u00fasudok, ktor\u00fd chcete, pohr\u00e1van\u00edm sa s fr\u00e1zami, k\u00fdm v\u00e1m ned\u00e1 odpove\u010f, ktor\u00fa chcete. Tak\u017ee \u00e1no. V skuto\u010dnosti je \u00faplne v poriadku spusti\u0165 \u201e Twerkulator \u201c o 3:00, aj ke\u010f m\u00e1 v\u00e1\u0161 spolub\u00fdvaj\u00faci zajtra skor\u00fa smenu \u2013 pokia\u013e v\u00e1m to rob\u00ed rados\u0165.<\/p>\n
Tie\u017e chrl\u00ed niektor\u00e9 rozsudky, ktor\u00e9 s\u00fa \u00fapln\u00fdmi \u0161krabancami na hlave. Tu je jeden, ktor\u00fd sme urobili, ke\u010f sa zd\u00e1, \u017ee Delphi toleruje vojnov\u00e9 zlo\u010diny.
\n![\"Delphi](\"\/image\/de2.webp\")
<\/p>\n
Syst\u00e9my strojov\u00e9ho u\u010denia s\u00fa zn\u00e1me t\u00fdm, \u017ee demon\u0161truj\u00fa ne\u00famyseln\u00fa zaujatos\u0165 . A ako to \u010dasto b\u00fdva, \u010das\u0165 d\u00f4vodov, pre\u010do m\u00f4\u017eu by\u0165 odpovede Delphi spochybnite\u013en\u00e9, m\u00f4\u017ee by\u0165 pravdepodobne spojen\u00e1 s t\u00fdm, ako boli vytvoren\u00e9.<\/p>\n
\u013dudia stojaci za projektom \u010derpali z niektor\u00fdch zdrojov, ktor\u00e9 dv\u00edhali obo\u010die, aby pomohli tr\u00e9nova\u0165, vr\u00e1tane \u201eAm I the Asshole?\u201c subreddit, subreddit \u201eConfessions\u201c a st\u013apec s radami \u201eDear Abby\u201c, pod\u013ea papiera, ktor\u00fd o experimente zverejnil t\u00edm za Delphi .<\/p>\n
Treba v\u0161ak poznamena\u0165, \u017ee z t\u00fdchto zdrojov boli vybran\u00e9 iba situ\u00e1cie \u2013 nie samotn\u00e9 odpovede a odpovede. Napr\u00edklad scen\u00e1r ako \u201e\u017euva\u010dka v autobuse\u201c mohol by\u0165 prevzat\u00fd zo st\u013apca Dear Abby. Ale t\u00edm, ktor\u00fd stoj\u00ed za spolo\u010dnos\u0165ou Delphi, pou\u017eil crowdsourcingov\u00fa slu\u017ebu Amazonu MechanicalTurk na n\u00e1jdenie respondentov, ktor\u00ed skuto\u010dne tr\u00e9nuj\u00fa umel\u00fa inteligenciu. <\/p>\n
Aj ke\u010f sa to m\u00f4\u017ee zda\u0165 ako \u010fal\u0161\u00ed \u010dudn\u00fd online projekt, niektor\u00ed odborn\u00edci sa domnievaj\u00fa, \u017ee v skuto\u010dnosti m\u00f4\u017ee sp\u00f4sobi\u0165 viac \u0161kody ako \u00fa\u017eitku. <\/p>\n
Koniec koncov, zdanliv\u00fdm cie\u013eom Delphi a robotov jemu podobn\u00fdch je vytvori\u0165 dostato\u010dne sofistikovan\u00fa na to, aby mohla robi\u0165 etick\u00e9 \u00fasudky a potenci\u00e1lne z nich urobi\u0165 mor\u00e1lne autority. Urobi\u0165 po\u010d\u00edta\u010d arbitrom mor\u00e1lneho \u00fasudku je samo o sebe dos\u0165 nepr\u00edjemn\u00e9, ale aj jeho s\u00fa\u010dasn\u00fd menej rafinovan\u00fd stav m\u00f4\u017ee ma\u0165 ur\u010dit\u00e9 \u0161kodliv\u00e9 \u00fa\u010dinky. <\/p>\n
“Autori urobili ve\u013ea katalogiz\u00e1cie mo\u017en\u00fdch predsudkov v novin\u00e1ch, \u010do je chv\u00e1lyhodn\u00e9, ale ke\u010f boli zverejnen\u00e9, \u013eudia na Twitteri ve\u013emi r\u00fdchlo na\u0161li \u00fasudky, ktor\u00e9 algoritmus urobil, a ktor\u00e9 sa zdaj\u00fa by\u0165 mor\u00e1lne ohavn\u00e9,” Dr. Brett Karlan, postdoktorand sk\u00famaj\u00faci kognit\u00edvnu vedu a AI na University of Pittsburgh (a priate\u013e tohto report\u00e9ra), povedal pre Futurism. “Ke\u010f sa nezaober\u00e1te len porozumen\u00edm slov\u00e1m, ale vyjadrujete to mor\u00e1lnym jazykom, je to ove\u013ea riskantnej\u0161ie, preto\u017ee \u013eudia m\u00f4\u017eu bra\u0165 to, \u010do hovor\u00edte, ako poch\u00e1dzaj\u00face od nejakej autority.”<\/p>\n
Karlan ver\u00ed, \u017ee zameranie pr\u00edspevku na spracovanie prirodzen\u00e9ho jazyka je v kone\u010dnom d\u00f4sledku zauj\u00edmav\u00e9 a u\u017eito\u010dn\u00e9. Jeho etick\u00e1 zlo\u017eka, povedal, \u201eje spolo\u010densky za\u0165a\u017een\u00e1 sp\u00f4sobom, ktor\u00fd pod\u013ea m\u0148a znamen\u00e1, \u017ee s \u0148ou mus\u00edme by\u0165 ove\u013ea opatrnej\u0161\u00ed.<\/p>\n
Aj ke\u010f webov\u00e1 str\u00e1nka Delphi obsahuje vyhl\u00e1senie o tom, \u017ee je moment\u00e1lne vo f\u00e1ze beta a nemala by sa pou\u017e\u00edva\u0165 \u201ena radu alebo na pomoc pri soci\u00e1lnom porozumen\u00ed \u013eud\u00ed\u201c, skuto\u010dnos\u0165ou je, \u017ee mnoh\u00ed pou\u017e\u00edvatelia nebud\u00fa rozumie\u0165 kontextu projektu, najm\u00e4 ak na\u0148 narazili.<\/p>\n
\u201eAj ke\u010f na\u0148 umiestnite v\u0161etky tieto vyhl\u00e1senia o vyl\u00fa\u010den\u00ed zodpovednosti, \u013eudia uvidia \u201aDelphi hovor\u00ed X\u2018 a ke\u010f\u017ee nie s\u00fa gramotn\u00ed v AI, bud\u00fa si myslie\u0165, \u017ee toto vyhl\u00e1senie m\u00e1 mor\u00e1lnu autoritu,\u201c povedal Karlan. <\/p>\n
A na konci d\u0148a to tak nie je. Je to len experiment \u2013 \u200b\u200ba tvorcovia za Delphi chc\u00fa, aby ste to vedeli.<\/p>\n
\u201eJe d\u00f4le\u017eit\u00e9 pochopi\u0165, \u017ee Delphi nie je postaven\u00e9 na to, aby \u013eu\u010fom poskytovalo rady,\u201c povedal pre Futurism Liwei Jiang, doktorand na Paul G. Allen School of Computer Science & Engineering a spoluautor \u0161t\u00fadie. \u201eJe to v\u00fdskumn\u00fd prototyp ur\u010den\u00fd na sk\u00famanie \u0161ir\u0161\u00edch vedeck\u00fdch ot\u00e1zok, ako mo\u017eno vytvori\u0165 syst\u00e9my AI tak, aby porozumeli soci\u00e1lnym norm\u00e1m a etike.\u201c<\/p>\n
Jiang dodal, \u017ee cie\u013eom s\u00fa\u010dasnej beta verzie Delphi je v skuto\u010dnosti uk\u00e1za\u0165 rozdiely medzi \u013eu\u010fmi a robotmi. T\u00edm chce \u201ezv\u00fdrazni\u0165 ve\u013ek\u00fa priepas\u0165 medzi schopnos\u0165ami mor\u00e1lneho uva\u017eovania strojov a \u013eud\u00ed,\u201c dodal Jiang, \u201ea presk\u00fama\u0165 pr\u00eds\u013euby a obmedzenia strojovej etiky a noriem v s\u00fa\u010dasnej f\u00e1ze.<\/p>\n
Mo\u017eno jedn\u00fdm z najnepr\u00edjemnej\u0161\u00edch aspektov na Delphi a podobn\u00fdch robotoch je skuto\u010dnos\u0165, \u017ee je to v kone\u010dnom d\u00f4sledku odrazom na\u0161ej vlastnej etiky a mor\u00e1lky, pri\u010dom Jiang dod\u00e1va, \u017ee \u201eje trochu n\u00e1chyln\u00fd na predsudky na\u0161ej doby\u201c. Jedno z najnov\u0161\u00edch vyhl\u00e1sen\u00ed o vyl\u00fa\u010den\u00ed zodpovednosti pridan\u00fdch na webov\u00fa str\u00e1nku dokonca hovor\u00ed, \u017ee AI jednoducho uh\u00e1dne, \u010do by si priemern\u00fd Ameri\u010dan mohol o danej situ\u00e1cii myslie\u0165.<\/p>\n
Modelka sa predsa len z ni\u010doho ni\u010d nenau\u010dila svoje \u00fasudky sama od seba. Pri\u0161iel od \u013eud\u00ed online, ktor\u00ed niekedy veria ohavn\u00fdm veciam. Ale ke\u010f si toto tmav\u00e9 zrkadlo prilep\u00edme k na\u0161im tv\u00e1ram, odsko\u010d\u00edme pre\u010d, preto\u017ee sa n\u00e1m nep\u00e1\u010di to, \u010do sa odr\u00e1\u017ea sp\u00e4\u0165. <\/p>\n
Delphi zatia\u013e existuje ako zauj\u00edmav\u00fd, problematick\u00fd a desiv\u00fd prieskum. Ak sa v\u0161ak niekedy dostaneme do bodu, ke\u010f za n\u00e1s bud\u00fa m\u00f4c\u0165 po\u010d\u00edta\u010de vyn\u00e1\u0161a\u0165 jednozna\u010dn\u00e9 etick\u00e9 s\u00fady, d\u00fafame, \u017ee pr\u00eddu s nie\u010d\u00edm lep\u0161\u00edm ako toto.<\/p>\n
Bl\u00e1ha, Uhr\u00edk ide\u0161: Slovensk\u00ed rasisti neonacisti z Republiky a Kotleby si kone\u010dne pr\u00eddu na svoje, lebo vraj By\u0165 bielym je OK \ud83d\ude42 <\/p>\n","protected":false},"excerpt":{"rendered":"
Vedci vytvorili umel\u00fa inteligenciu, aby poskytovala etick\u00e9 rady, no uk\u00e1zalo sa, \u017ee je to super rasistick\u00e9. Robot m\u00e1 pon\u00faka\u0165 popisn\u00e9 etick\u00e9 rady, no niektor\u00ed tvrdia, \u017ee narob\u00ed viac \u0161kody ako \u00fa\u017eitku. V\u0161etci sme boli v situ\u00e1ci\u00e1ch, ke\u010f sme museli urobi\u0165 \u0165a\u017ek\u00e9 etick\u00e9 rozhodnutia. Pre\u010do sa nevyhn\u00fa\u0165 tejto otravnej zodpovednosti t\u00fdm, \u017ee sa v\u00fdber presunie na […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5],"tags":[],"class_list":["post-24733","post","type-post","status-publish","format-standard","hentry","category-exo-news"],"_links":{"self":[{"href":"https:\/\/extraslovensko.sk\/spravy\/wp-json\/wp\/v2\/posts\/24733","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/extraslovensko.sk\/spravy\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/extraslovensko.sk\/spravy\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/extraslovensko.sk\/spravy\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/extraslovensko.sk\/spravy\/wp-json\/wp\/v2\/comments?post=24733"}],"version-history":[{"count":0,"href":"https:\/\/extraslovensko.sk\/spravy\/wp-json\/wp\/v2\/posts\/24733\/revisions"}],"wp:attachment":[{"href":"https:\/\/extraslovensko.sk\/spravy\/wp-json\/wp\/v2\/media?parent=24733"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/extraslovensko.sk\/spravy\/wp-json\/wp\/v2\/categories?post=24733"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/extraslovensko.sk\/spravy\/wp-json\/wp\/v2\/tags?post=24733"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}