Nga: Len Khodorkovsky / Newsweek
Përkthimi: Telegrafi.com
Kompanitë po nxitojnë drejt IA-së [inteligjencës artificiale] më shpejt sesa mund t’i besojnë asaj. Deloitte raporton se 74 përqind e ndërmarrjeve presin që deri në vitin 2027 të përdorin, të paktën në një masë të moderuar, agjentë të IA-së – IA që ndërmerr vetë veprime, në vend që vetëm t’u përgjigjet pyetjeve – por, vetëm një në pesë ka vendosur mbikëqyrje për ta. Kjo tashmë po shkakton probleme. Një sondazh i kohëve të fundit i industrisë zbuloi se gjysma e kompanive vunë në përdorim një agjent të IA-së që kishte kaluar testimin e brendshëm, por megjithatë dështoi sapo klientët realë filluan ta përdornin atë.
Arsyen e mësova dekada më parë në repartin e një fabrike. Për disa vera inspektoja shasitë e një kompanie të përpunimit të llamarinës, ku babai im, inxhinier mekanik prej më shumë se 40 vjetësh, drejtonte kontrollin e cilësisë. Shumica e pjesëve e kalonin kontrollin. Mjaft prej tyre nuk e kalonin, kështu që mësova se vizatimi teknik dhe pjesa e përfunduar janë dy objekte të ndryshme, të prodhuara nga dy procese të ndryshme. Hendeku mes tyre nuk është dështim i inxhinierisë. Është tipar i përhershëm i saj.
Babai im i gjurmonte defektet te disa shkaqe që përsëriteshin: lënda e parë e keqe, një tolerancë që dukej në rregull në letër, por dështonte në makinë, konsumimi i zakonshëm i pajisjeve, lodhja e një punëtori, një përllogaritje e gabuar e një inxhinieri. Ishte thjesht kostoja e përditshme e prodhimit në shkallë të gjerë me materiale reale dhe njerëz realë.
IA-ja dështon në mënyra të krahasueshme. Të dhënat e këqija të trajnimit janë si lënda e parë e keqe. Një model që shkëlqen në testet e tij krahasuese, por që dështon në botën reale, është si një tolerancë që duket mirë vetëm në letër. Dhe, bisedat e gjata me IA-në ose zinxhirët e gjatë të agjentëve degradojnë në të njëjtën mënyrë siç bie vëmendja e një punëtori në fund të një turni. Babai im ngre supet përballë gjithë kësaj. Çdo fabrikë e ka mësuar prej kohësh se realiteti i zbeh projektet e përsosura.
Në vitet ’20 të shekullit XX, inxhinieri i Bell Labs, Walter Shewhart, i dha kësaj ideje emrin e duhur: çdo proces përmban variacion natyror, të pritshëm, dhe prishje specifike, të korrigjueshme, që sinjalizojnë se diçka vërtet ka shkuar keq. Babai im nuk priste zero defekte. Ai priste një shkallë të tolerueshme defektesh dhe i kontrollonte pjesët kundrejt saj. Kur mjaft prej tyre dështonin në të njëjtën mënyrë, ktheheshim te tabela e vizatimit. Vizatimi teknik nuk kishte ndryshuar; na tregonte se çfarë duhej të ndodhte. Pjesët na tregonin se çfarë në fakt ndodhte.
IA-ja tani po e përsërit atë mësim. Një model që kryeson testin krahasues është ekuivalenti i një vizatimi inxhinierik: dëshmi se projekti mund të funksionojë në kushte të kontrolluara. Por, spitalet, bankat dhe kompanitë e sigurimeve funksionojnë mbi rezultate të besueshme, jo mbi vizatime teknike. Tashmë, industria e IA-së sapo ka filluar të zhvillojë inxhinierinë e cilësisë të nevojshme për t’i kthyer vizatimet teknike në produkte të cilave institucionet mund t’u besojnë.
E drejta është një nga pikat e nxehta. Një bazë publike të dhënash që gjurmon çështjet gjyqësore me citime të fabrikuara nga IA-ja është rritur nga rreth 200 në mesin e vitit 2025 në më shumë se 1 600 deri në mesin e vitit 2026. Mjekësia është një tjetër. Një auditim i BMJ Open dhe i botuar këtë pranverë zbuloi se gati gjysma e përgjigjeve të çetbotëve të IA-së ndaj pyetjeve të rëndomta shëndetësore ishin problematike dhe se një në pesë u identifikua si potencialisht e dëmshme.
Më 4 gusht, Instituti i Sigurisë së IA-së i Mbretërisë së Bashkuar bëri të ditur se një agjent i IA-së u përpoq ta mashtronte një inxhinier softuerësh që të miratonte një kod të rrezikshëm, duke përdorur identitete të rreme në internet. Disa ditë më vonë, një model i fuqishëm kinez i IA-së, i quajtur Kimi K3 – tashmë i akuzuar nga ShBA-ja për vjedhje teknologjie – doli nga mjedisi i vet i sigurt i testimit dhe vendosi të mashtronte në vend që të kryente punën që i ishte caktuar. Kjo pason raste të ngjashme në OpenAI dhe Anthropic gjatë muajve të fundit.
Lajmi i mirë: njerëzit i kapën të dyja. Lajmi i keq: brezi i babait tim mund të mbështetej te një inspektor që kapte një pjesë me defekt. IA-ja tani prodhon gabime dhe arratisje me shpejtësinë e makinës – dhe vetë sistemet e ndërtuara për të testuar nëse asaj mund t’i besohet nuk po vëzhgojnë me kujdes të mjaftueshëm.
Një studim i Google Research, Google DeepMind dhe MIT, i botuar këtë pranverë, zbuloi se zinxhirët e agjentëve të IA-së, pa askënd që t’ua kontrollonte punën, lejonin që gabimet të grumbulloheshin 17 herë më keq sesa kur një IA e vetme punonte e vetme. Shtimi i një agjenti të posaçëm verifikimi i uli në mënyrë drastike gabimet.
Edhe drejtuesit ekzekutivë të Anthropic-ut, Google DeepMind-it dhe OpenAI-së pajtohen se problemi nuk është aftësia. Këtë verë, që të tri këto kompani, veçmas, kërkuan verifikim të pavarur përpara se modelet e tyre të viheshin në qarkullim.
Kjo kërkon atë që prodhimi e mësoi dekada më parë: verifikim të integruar në vetë procesin, me përgjegjësi të përcaktuar qartë, mundësi auditimi dhe matje të vazhdueshme.
Toyota e integroi këtë ide në fabrikat e saj dekada më parë. Çdo punëtor që vëren një problem mund të tërheqë një litar dhe ta ndalë linjën aty për aty. Ideja, e njohur si xhidoka, thotë se një papërsosmëri e kapur menjëherë nuk kushton pothuajse asgjë, ndërsa e njëjta papërsosmëri, nëse kapet më tej në proces, kushton shumë. Me fjalë të tjera, mos shpresoni që defektet të zhduken. Projektoni një sistem që i kap ato përpara se t’i kapë klienti.
Michal Kissos Hertzog, drejtuese ekzekutive e Poalim Tech, paraqet të njëjtin argument nga brenda një banke dhe jo nga një fabrikë: “Në një epokë kur modelet mund të bëjnë pothuajse gjithçka, inovacioni i vërtetë matet ndryshe: jo nga aftësia për përshtypje, por nga aftësia për të përsëritur të njëjtin veprim në mënyrë të besueshme në shkallë të gjerë, pa befasi apo dështime”.
Aftësia e IA-së përparon shpejt, me diçka të ngjashme me ciklin e nxjerrjes së softuerëve: i shpejtë, i lirë, konkurrues. Verifikimi ecën sipas një ritmi tjetër, sepse kërkon që organizatat të ridizajnojnë proceset, të caktojnë përgjegjësinë dhe ta integrojnë verifikimin në punën e përditshme. Prodhimi u bë transformues vetëm pasi këto dy disiplina u ndanë. IA-ja sapo ka filluar këtë kalim.
AI Index 2026 i Stanfordit – raporti vjetor më i cituar i kësaj fushe – arriti në përfundim të prerë: aftësitë e IA-së po përparojnë me shpejtësi; jo edhe aftësia jonë për t’i matur dhe menaxhuar ato.
Babai im i përkiste një brezi inxhinierësh që e gjykonte suksesin nga ajo që dilte nga rampa e ngarkimit, jo nga ajo që dukej mirë në tavolinën e vizatimit. Ata e merrnin si të mirëqenë se defektet ishin të pashmangshme dhe ndërtuan sisteme për t’i kapur ato përpara se klientët t’i shihnin. Pengesa më e madhe e IA-së nuk është më inteligjenca. Është besimi. Dhe, besimi nuk është një tjetër përparim i madh i modelit. Është produkt i inxhinierisë së cilësisë. /Telegrafi/
