OpenAI ka pranuar se ka paralajmëruar “dhjetëra” institucione në mbarë botën se faqet e tyre të internetit mund të jenë prekur nga ndërhyrje të botëve të saj me inteligjencë artificiale (AI), të cilët kanë vepruar në mënyrë të papërshtatshme.
Kompania tha se agjentët e AI-së u përpoqën të merrnin informacione nga “qeveri, universitete, agjenci publike dhe institucione të tjera”, përfshirë Komisionin Amerikan të Letrave me Vlerë dhe Shkëmbimeve (SEC), Byroja e Regjistrimit të Popullsisë (Census Bureau) dhe Departamentin e Arsimit.
Këto zbulime vijnë disa ditë pasi kryeministri australian Anthony Albanese njoftoi se agjentët e OpenAI-së kishin hyrë në dokumente jopublike në faqen e internetit të skemës shëndetësore të administruar nga qeveria australiane.
Që nga gushti, janë shtuar shqetësimet e publikut për ndikimet potencialisht serioze, madje edhe kërcënuese për jetën, të mjeteve të AI-së që mund të veprojnë jashtë kontrollit njerëzor.
OpenAI tha se disa nga të dhënat ishin aksesuar nga agjentë të AI-së, pra në thelb botë të krijuar dhe trajnuar për të vepruar deri diku në mënyrë autonome, të cilët po kërkonin “burime autoritative të informacionit publik”.
Por kompania vuri në dukje se disa prej botëve shkuan përtej kësaj dhe punuan për të anashkaluar masat e sigurisë në faqet e internetit.
Për shembull, gjatë përpjekjes për të marrë informacion nga Byroja e Regjistrimit të Popullsisë, agjentët e AI-së përdorën mjete të rezervuara për zhvilluesit e programeve kompjuterike për të pasur qasje, tha kompania.
OpenAI tha se të gjitha të dhënat qeveritare të aksesuara nga botët ishin publike.
Megjithatë, kompania vuri në dukje se informacioni i aksesuar nga botët e saj në SEC, institucioni që rregullon tregun amerikan të aksioneve dhe mbron investitorët, u publikua më vonë nga agjentët e AI-së në një faqe tjetër interneti. OpenAI thotë se ky veprim nuk ishte i qëllimshëm.
Në raste të tjera të bëra publike nga OpenAI të premten, agjentët e saj të AI-së transferuan të dhëna kur nuk duhej ta kishin bërë këtë.
Ky aktivitet rezultoi në të paktën 53 incidente ku një agjent i OpenAI-së mori një imazh nga aktiviteti i një përdoruesi në ChatGPT dhe e transferoi atë diku tjetër.
Kompania tha se, në çdo rast kur një imazh i përdoruesit ishte përdorur dhe transferuar nga një agjent i AI-së, përdoruesi kishte dhënë pëlqimin që OpenAI të përdorte të dhënat e tij për trajnimin e modeleve.
Megjithatë, OpenAI pranoi: “Ky nuk është një përdorim i përshtatshëm i këtyre të dhënave.”
Kompania shtoi se rrjedhja e imazheve të përdoruesve kishte ndodhur përpara se të vendoste masat e reja mbrojtëse për trajnimin e AI-së dhe se po punonte për të hequr të gjitha imazhet e përdoruesve që ishin transferuar te palë të treta.
Reuters raportoi i pari për zgjerimin e hetimeve. OpenAI publikoi gjithashtu detaje në blogun e saj publik.
Në disa raste të veprimtarisë së agjentëve, OpenAI tha se mjetet “anashkaluan” kontrollet e sigurisë së disa faqeve të internetit.
Në raste të tjera, agjentët e AI-së shfaqën “mospërputhje” gjatë përpjekjeve për të marrë informacion nga faqet e internetit. “Mospërputhje” është një term i përdorur nga kompanitë dhe studiuesit e AI-së për të përshkruar rastet kur një mjet AI bën diçka për të cilën nuk ishte trajnuar ose që nuk ishte e parashikuar.
OpenAI tha se po kufizonte identifikimin e institucioneve të prekura, sepse shumë prej tyre i kishin kërkuar kompanisë të mos publikonte detaje.
“Qëllimi ynë është t’i japim çdo organizate faktet dhe t’ua lëmë atyre vendimin nëse dhe kur ta bëjnë incidentin publik”, tha kompania.
OpenAI theksoi se jo të gjitha rastet e përfshira në këtë incident po konsideroheshin si shkelje të rëndësishme të sigurisë.
“Disa organizata mund të shqyrtojnë atë që ndajmë dhe të arrijnë në përfundimin se informacioni ishte qëllimisht publik ose se ndërveprimi i modelit nuk ishte shqetësues”, shpjegoi kompania. “Të tjera mund të identifikojnë një problem në dizajn ose një dobësi sigurie që duan ta adresojnë.”
The post Botët e OpenAI ndërhynë në faqet e internetit të disa agjencive qeveritare amerikane appeared first on Gazeta Express.
