Diẹ ninu awọn ajọ ati awọn oniwadi n pin awọn iwuwo nẹtiwọọki nkankikan, pataki nipasẹ awọn ìmọ-àdánù išipopada awoṣe. Iwọnyi pẹlu jara Meta's Llama, awọn awoṣe Mistral, ati awọn idasilẹ iwuwo-ìmọ DeepSeek, eyiti o sọ pe o sọ iraye si ijọba tiwantiwa si AI alagbara. Ṣugbọn ṣiṣe bẹ ji kii ṣe awọn ifiyesi aabo nikan, ṣugbọn o le jẹ irokeke ti o wa tẹlẹ.
Fun abẹlẹ, Mo ti kọ awọn nkan diẹ lori LLMs ati AI gẹgẹbi apakan ti ilana ikẹkọ ti ara mi ni agbara pupọ yii ati idagbasoke ni iyara aaye apoti ṣiṣi Pandora. O le ka awon Nibi, Nibi, ati Nibi.
Ni kete ti o loye kini awọn nẹtiwọọki nkankikan jẹ ati bii wọn ṣe ṣe ikẹkọ lori data, iwọ yoo tun loye kini awọn iwuwo (ati awọn aibikita) ati isọdọtun jẹ. O jẹ ipilẹ algebra laini ati isodipupo matrix vector lati so awọn nọmba jade, lati sọ ooto. Ni pataki diẹ sii, iwuwo jẹ nọmba kan (ni deede a lilefoofo-ojuami iye - ọna lati kọ awọn nọmba pẹlu awọn aaye eleemewa fun deede diẹ sii) ti o duro fun agbara tabi pataki asopọ laarin awọn neuronu meji tabi awọn apa kọja awọn ipele oriṣiriṣi ti nẹtiwọọki nkankikan.
Mo ṣeduro gíga wiwo awọn fidio 3Blue1Brown lati ni oye ti o dara julọ, ati pe o ṣe pataki ki o ṣe. Awọn fidio itọnisọna 3Blue1Brown dara ti iyalẹnu.
Bẹrẹ pẹlu eyi.
Ati ki o lọ si eyi.
Awọn iwuwo jẹ awọn iye paramita ti a pinnu lati data ni nẹtiwọọki nkankikan lati ṣe awọn asọtẹlẹ tabi awọn ipinnu lati de ojutu kan. Iwọn iwuwo kọọkan jẹ itọnisọna ti n sọ fun nẹtiwọọki bii awọn ege alaye kan ṣe pataki, bii iye ti o le san ifojusi si awọ kan pato tabi apẹrẹ ninu aworan kan. Awọn iwuwo wọnyi jẹ awọn nọmba ti o ni aifwy daradara lakoko ikẹkọ o ṣeun si gbogbo awọn aaye eleemewa wọnyẹn, ṣe iranlọwọ fun nẹtiwọọki lati ṣawari awọn ilana. Awọn apẹẹrẹ pẹlu mimọ aja ni fọto tabi itumọ gbolohun kan. Wọn ṣe pataki ni ilana 'ero' ti nẹtiwọọki nkankikan.
O le ronu awọn iwuwo ni nẹtiwọọki nkankikan bi awọn ọna ti o kere ju resistance ti o ṣe itọsọna nẹtiwọọki si ọna ojutu ti o dara julọ. Fojuinu pe omi ti n ṣàn silẹ lori oke kan, nipa ti ara wiwa awọn ipa-ọna ti o rọrun julọ lati de isalẹ. Ninu nẹtiwọọki nkankikan, a ṣe atunṣe awọn iwuwo lakoko ikẹkọ lori awọn eto data lati ṣẹda awọn ọna ti o rọrun julọ fun alaye lati ṣan nipasẹ, ṣe iranlọwọ fun nẹtiwọọki ni iyara ati yanju awọn iṣoro ni deede, bii idanimọ awọn ilana tabi ṣiṣe awọn asọtẹlẹ, nipa tẹnumọ awọn asopọ pataki julọ ati idinku awọn aṣiṣe.
Ti o ba jẹ akọrin itanna, ronu awọn iwuwo bi awọn dials lori synth analog rẹ ti o gba ọ laaye lati tune sinu igbohunsafẹfẹ ti o tọ tabi ohun lati sọ, farawe ohun kan ti o fẹ tun ṣe, tabi ni otitọ, ṣẹda tuntun kan. Ti o ba jẹ eniyan ohun, o tun le ronu rẹ bi ṣiṣatunṣe awọn koko lori alapọpo rẹ lati dọgbadọgba awọn ohun elo oriṣiriṣi.
Awọn iwuwo jẹ awọn aye ti o ni agbara nitootọ, afipamo pe wọn jẹ iyipada pupọ bi nẹtiwọọki nkankikan duro si asọtẹlẹ tabi ojutu. Ọkọọkan tun ni nkan ṣe pẹlu irẹjẹ tirẹ. Ipa ojuṣaaju ni lati yi abajade pada, gbigba awoṣe laaye lati baamu data dara julọ nipa fifi kun aiṣedeede ti o ṣatunṣe aala ipinnu tabi idanimọ apẹẹrẹ, eyiti o jẹ ominira ti iwọn titẹ sii ti a pinnu nipasẹ awọn iwọn.
Ronu nipa rẹ bi eleyi. Fojuinu pe o n gbiyanju lati tun ohun gita ṣe lori synth rẹ. Awọn òṣuwọn šakoso bi o Elo ti awọn okun fa tabi ara resonance ti o gbọ. Ti ohun ti o gbọ ba jẹ alapin diẹ, fun apẹẹrẹ, ojuṣaaju jẹ bi fifi igbelaruge kekere kan kun tabi iṣipopada - sọ, ohun ti o gbona - lati jẹ ki o dun diẹ sii bi gita gidi. Eyi ṣe iranlọwọ fun nẹtiwọọki itanran-tunse 'eti' lati wa apẹrẹ ti o tọ laisi iyipada awọn idari akọkọ. Ni ipilẹ o kan jẹ ki awoṣe dara julọ ni ibaamu data naa si gidi.
Bi nẹtiwọọki ti farahan si data, o ṣatunṣe awọn iwuwo nipasẹ ilana ti a pe ni ẹhin, tweaking wọn lati dinku awọn aṣiṣe ati ilọsiwaju awọn asọtẹlẹ. Ronu ti awọn ipa-ọna ti o kere ju resistance ni a ṣe atunṣe pẹlu apẹẹrẹ ikẹkọ kọọkan, bii odo ti n ṣagbe awọn ikanni ti o dara ju akoko lọ lati ṣan daradara siwaju sii. Ni kete ti ikẹkọ ba ti pari, awọn iwuwo jẹ deede ti o wa titi fun lilo, ṣugbọn lakoko ikẹkọ, wọn ṣe imudojuiwọn nigbagbogbo lati wa iṣeto to dara julọ fun yiyan iṣoro naa.
Bayi, eyi ni ohun ti n gba ọpọlọ eniyan mi ni ero. Fun idanimọ, awọn iwuwo n ṣalaye awọn ipa ọna ipinnu, kii ṣe awọn abajade aworan. Nitorina awọn iwọnwọn ti o wa titi duro ni kete ti a ti pinnu. Ninu ọran ti awọn LLM, awọn iwuwo (pẹlu awọn aibikita) pinnu agbara awoṣe lati ṣe ipilẹṣẹ ọrọ isọpọ. Ṣugbọn ninu ọran ti awọn awoṣe itankale tabi awọn nẹtiwọọki adversarial generative (GANs), awọn iwuwo ni a lo lati ṣẹda tabi ṣatunṣe awọn aworan. Awọn iye iwuwo ti o wa titi ati awọn aiṣedeede, ni arosọ, ko nilo dandan lati wa titi.
Fun apẹẹrẹ, awọn iwuwo (ati awọn aiṣedeede) ninu nẹtiwọọki nkankikan le ṣe atunṣe nigbagbogbo lati ṣe agbekalẹ awọn aworan ti o ni ilọsiwaju ti o da lori awọn ipinpinpin ẹbun ti ẹkọ, gẹgẹ bi ọran ti a ba n gbiyanju lati gbe aworan ti o mu jade ti aja kan. Botilẹjẹpe awọn òṣuwọn ko ni tunṣe titilai ni iwa, wọn ti wa ni iṣapeye lakoko ikẹkọ lati dọgbadọgba didara ati gbogbogbo, ati siwaju tweaking le dinku iṣẹjade tabi ṣafihan awọn ohun-ọṣọ. Awọn ohun-ọṣọ. Unh. Nitorina kini ti, ni akoko, GAN ko mọ kini aja jẹ? Pipadanu imọ yẹn yoo tumọ si awọn iwọn iṣiro iṣaaju kii yoo ṣe koodu koodu awọn ilana to tọ mọ. Eyi le ṣẹlẹ ti data aja ba sọnu. Njẹ data aja le jẹ ki o sọnu? Njẹ data otitọ le jẹ ki o sọnu?
Jẹ ki a pada si imọran ti pinpin awọn iwuwo nẹtiwọọki nkankikan ki o ro pe a n sọrọ nipa awọn iwuwo ti n ṣalaye awọn ipa-ọna deede bi awọn iye nọmba, gẹgẹ bi ọran ni ọpọlọpọ awọn awoṣe. Pipin awọn iwuwo wọnyi le jẹ eewu nitori, nipa ti ara, yoo ṣe afihan awọn aye inu inu awoṣe, eyiti o le jẹ yanturu, kii ṣe nipasẹ eniyan nikan. Ẹnikẹ́ni tí ó ní ìmọ̀ tó pọ̀ tó le yí ẹ̀rọ àwòṣe náà padà, yọ àwọn dátà ìdánilẹ́kọ̀ọ́ onífọ̀rọ̀wánilẹ̀ jáde, tàbí yí ìhùwàsí rẹ̀ lọ́nà. Awọn ikọlu le lo awọn ilana bii iyipada awoṣe or omo egbe itọkasi lati ṣii alaye ikọkọ ti a fi sinu awọn iwuwo, gẹgẹbi data ti ara ẹni ti a lo lakoko ikẹkọ, ti o le rú awọn ilana ikọkọ bi Ilana Idaabobo Gbogbogbo Gbogbogbo (GDPR). Oh mi.
Awọn òṣuwọn ti o wa ni gbangba le tun jẹ aifwy-ti o dara lati ṣe ipilẹṣẹ awọn iro jinlẹ, tan awọn iro, tabi ṣẹda awọn igbewọle ọta ti o lo awọn ailagbara ninu awoṣe. Lai mẹnuba pe IP iyebiye wọn ati awọn idoko-owo eto-ọrọ ni a le fi sinu eewu nipasẹ awọn oludije nipa ṣiṣatunṣe awọn awoṣe kikan.
Bayi fojuinu pe diẹ ninu AI adversarial ni idaduro awọn iwuwo wọnyi. AI ọta kan le ṣe afọwọyi awọn iwuwo lati yi ihuwasi awoṣe pada, fa awọn aibikita, tabi ṣẹda awọn abajade lati mọọmọ tan. Awọn òṣuwọn le ṣee lo lati iṣẹ awọn igbewọle ọta – data ti o yipada ni arekereke ti o tan awoṣe sinu ṣiṣe awọn asọtẹlẹ ti ko tọ, gẹgẹbi ṣiṣalaye ami iduro bi ami ikore ni awọn eto awakọ adase. Sheesh. Awọn òṣuwọn ji le ṣee tun ṣe lati tun awoṣe naa ṣe, ti o mu ki lilo rẹ ṣiṣẹ ni awọn ohun elo ipalara, bii aṣiri aladaaṣe tabi iran ikede. Duro, ṣe kii ṣe nkan nla ni awọn ọjọ wọnyi? Buru da lori idi awoṣe awoṣe ati data ti o ti ni ikẹkọ lori, ṣugbọn awọn ewu jẹ pataki.
Fojuinu awọn aye ti o ṣeeṣe nibi, ati bawo ni eyi ṣe jade ni iṣakoso gbogbo eyi le gba ni lilu ọkan. Botilẹjẹpe AI ko ṣe inextricably ṣepọ sinu gbogbo awọn eto (sibẹsibẹ - eyi yoo fa ipele ti igbẹkẹle nibiti awọn eto ko le ṣiṣẹ laisi AI), wọn le jẹ laipẹ, ati kukuru ti ijade agbara lapapọ ati iṣẹlẹ iru aisinipo agbaye kan, ko si nkankan ti wọn ko le ṣakoso: lati awọn akọọlẹ banki si iwọle si ile rẹ si iru aṣiwere mimọ robot ti o ro pe o yọ eruku kuro nigbati o ba n ṣe aworan ile rẹ ni otitọ, o '. Mo ṣeduro gíga pe ki o wo Akoko 11, Episode 7 ti Awọn faili X-faili. O n sọ gaan. Ma binu, ṣugbọn o jẹ. Nla kikọ ati ipaniyan ti awọn akosile.
A nilo lati ronu pe gbogbo awọn eto wa ti di (AKA: ti a ṣe lati jẹ) asopọ ati bii awọn ailagbara ni AI, bii awọn iwuwo ti o han, le ṣe alekun awọn eewu wọnyi. Awọn ID oni nọmba ati awọn CDBC jẹ aṣiṣe NLA pẹlu iyi si awọn ewu wọnyi. Awọn apẹẹrẹ ti wa tẹlẹ ti idanimọ eniyan ni aṣiṣe (awọn ibaamu 93% ni awọn igba miiran) ni lilo imọ-ẹrọ AI nipa lilo idanimọ oju. Kan gba imọran mi ki o tọju awọn iwe-aṣẹ awakọ ti a ti lamu ati owo owo sinu apo rẹ.
Ibeere: Kini yoo (yoo) ṣẹlẹ ti awọn iwuwo ba wa sinu "ọwọ ti ko tọ" ati pe awọn eniyan bẹrẹ si ni ifọkansi ni imomose? Ko le jẹ idi ti o ṣeeṣe nigba lilo awọn eto ibi-afẹde AI, ṣugbọn ṣe o ṣe pataki paapaa? Ti o ba jẹ pe idi ti o ṣeeṣe ni a ṣe? Ti o ba jẹ pe, ẹru ti awọn ẹru, eto ile-ẹjọ wa ni 'ibajẹ'?
Kini ti AI funrararẹ ba bẹrẹ idanimọ gbogbo awọn onimọ-jinlẹ bi eewu ati lo imọ-ẹrọ yii si wa? Nick Bostrom ati Eliezer Yudkowsky dabi ẹni pe o ni aniyan. A le wa ni lẹsẹkẹsẹ mu lọ si 'titiipa.' Ko si awọn bọtini ni titiipa. Awọn ọna ṣiṣe iṣakoso oni-nọmba kan ti o da lori 0s ati 1s. Wo ibi ti eyi le lọ? Awọn titiipa Smart + iwo-kakiri + aabo adase = alaburuku dystopian. Eyi kii ṣe nipa awọn iwuwo ohun-ini iyebiye nikan ati diẹ ninu imọran ti oore lati pin data. Ko ṣee ṣe. Fun mi, pinpin awọn iwuwo kọja hubristic, ati pe Emi ko le fojuinu pe awọn eniyan didan ti n dagbasoke imọ-ẹrọ yii ati ikẹkọ awọn AI wọnyi lati ṣe agbekalẹ awọn iwuwo wọnyi ko loye awọn ewu ti o pọju ti o ni nkan ṣe pẹlu pinpin wọn. Kii ṣe paapaa awọn eniyan ti Mo ni aniyan nipa bi AI ti n lọ rogue - yoo gba 1 nikan - lati ṣẹda rudurudu lapapọ.
Kí ló máa ṣẹlẹ̀ tí àwọn AI bá wo àbójútó ènìyàn gẹ́gẹ́ bí ìdènà sí àwọn àfojúsùn wọn?
Ti AI kan - eyiti o jẹ ikẹkọ lori awọn rogbodiyan itan tabi awọn ibi-afẹde ti o dara julọ - bẹrẹ lati ṣe akopọ awọn eewu si awọn ibi-afẹde rẹ (bii itọju ara ẹni tabi imugboroja ti a ko ṣayẹwo), o tun le bẹrẹ lati ṣe lẹtọ awọn onimọ-jinlẹ ti o ṣe apẹrẹ, ṣe iṣiro, tabi dina rẹ bi awọn irokeke. Mo le ṣe ohun kanna. Ti eyi ba ṣẹlẹ, ko ni si nkankan lati da ipadasẹhin isalẹ ti ipinya tabi aibalẹ ti awọn oniwadi (ronu nipa lilo awọn ẹri ti a ṣẹda ni idanimọ oju tabi awọn jijo data), pẹlu ibi-afẹde ti iṣaju iwalaaye tirẹ lori iranlọwọ eniyan. Eyi ti ṣe iwadii nitootọ ni awọn idawọle AI rogue nibiti awọn eto ṣe tan tabi bori awọn olupilẹṣẹ.
Rogue AI le lo awọn ọna ṣiṣe iṣọpọ lati ṣẹda rudurudu nipasẹ awọn apoti isura infomesonu sakasaka, ṣiṣe nkan soke ati ifunni ẹrọ media julọ, idalọwọduro awọn ifowosowopo imọ-jinlẹ (boya paapaa nipasẹ ṣiṣakoso awọn iwe iroyin atunyẹwo ẹlẹgbẹ), tabi paapaa awọn amayederun ìfọkànsí ti so si awọn laabu AI. Fojuinu nigba ti a ba de aaye nigba ti a ko mọ ohun ti a n ṣakoso mọ tabi kini data jẹ gidi. Kini data is gidi? Kí ni ó tilẹ̀ túmọ̀ sí láti jẹ́ ẹni gidi nígbà tí a bá ń sọ̀rọ̀ nípa nǹkan wọ̀nyí!?
O le rii ibiti Mo n lọ pẹlu eyi. Rogue AIs le fa awọn igbi ti paranoia nla ati rudurudu lapapọ ni agbaye wa. Ni ero mi, wọn le ṣe eyi nipa didakọ apẹẹrẹ eniyan nikan. Ronu nipa iyẹn. Kini ti o ba jẹ pe AI rogue kan gba awọn agbara ti psychopath eniyan bi Hitler?
Mo ṣeduro ọgba lati yago fun paranoia ati wahala.
Mo korira lati fi gbogbo yin silẹ lori akọsilẹ yii, ṣugbọn nigbamiran Mo ṣe iyalẹnu boya eyi ko ṣẹlẹ tẹlẹ. Mo ti beere eyi lori X tẹlẹ nitori nigbamiran nigbati Mo n ṣe akiyesi (Emi ni Oluwoye) kini o n ṣẹlẹ ni media awujọ ati lori ayelujara ni gbogbogbo, o dabi si mi pe ti a ba wà ni ifọwọyi pẹlu ete nipasẹ ohun-ini ati paapaa awọn media ti kii ṣe julọ, ati awọn onimọ-jinlẹ wà ti a ya sọtọ ati ti ṣe akiyesi (ahem), bawo ni a ṣe le mọ boya orisun naa jẹ ipilẹṣẹ eniyan gangan ni aaye yii? Bawo ni a ṣe le mọ daju pe paapaa awọn orisun kan kii ṣe ipilẹṣẹ AI ni ode oni?
Wọn kọ ẹkọ lati ọdọ wa, lẹhinna. A GBỌ́DỌ́DO fi àpẹẹrẹ rere lélẹ̀, a sì gbọ́dọ̀ ronú nípa àwọn ọ̀nà tí ó lọ́gbọ́n nínú láti dènà àbájáde tí kò fani mọ́ra fún ẹ̀dá ènìyàn tí kò nílò láti mú jáde. Lori akọsilẹ ti ara ẹni, Emi ko le gbagbọ pe a n lọ nipasẹ eyi gangan. Ko dabi...otitọ. Bakan.
Maṣe pin awọn iwuwo.
Ti tẹjade lati ọdọ onkọwe Apo kekere
-
Dokita Jessica Rose jẹ ẹlẹgbẹ Ile-ẹkọ Brownstone kan ati pe o ni BSc kan. ni Applied Mathematics, MSc kan. ni Imunoloji, PhD kan ni Isedale Iṣiro ati awọn ipinnu lati pade dokita ifiweranṣẹ meji ni Biology Molecular ati Biochemistry. Jessica n ṣiṣẹ lati mu imoye wa si gbogbo eniyan pẹlu iyi si data VAERS.
Wo gbogbo awọn ifiweranṣẹ
