Vykdydamas „TechCrunch“ tęsiamą „Moterys dirbtinio intelekto“ seriale, kuriuo siekiama, kad į DI orientuotos moterys akademikės ir kitos moterys būtų dėmesio centre, jos užsitarnautą ir pavėluotą laiką, „TechCrunch“ apklausė CŽV dirbtinio intelekto direktorių Lakshmi Raman. Kalbėjomės apie jos kelią tapti direktore, taip pat apie tai, kaip CŽV naudoja dirbtinį intelektą, ir apie pusiausvyrą, kurią reikia rasti tarp naujų technologijų panaudojimo ir jas atsakingai diegiant.
Ramanas ilgą laiką dirbo žvalgyboje. Ji prisijungė prie CŽV 2002 m. kaip programinės įrangos kūrėja, įgijusi bakalauro laipsnį Ilinojaus universitete Urbana-Champaign ir informatikos magistro laipsnį Čikagos universitete. Po kelerių metų ji perėjo į agentūros vadovybę ir galiausiai pradėjo vadovauti CŽV bendroms įmonės duomenų mokslo pastangoms.
Raman sako, kad jai pasisekė turėti moterų pavyzdžius ir pirmtakes, kaip išteklius CŽV, atsižvelgiant į tai, kad žvalgybos srityje istoriškai dominuoja vyrai.
„Vis dar turiu žmonių, į kuriuos galiu kreiptis, iš kurių galiu paklausti patarimo ir galiu kreiptis į tai, kaip atrodys kitas lyderystės lygis“, – sakė ji. „Manau, kad yra dalykų, kuriuos kiekviena moteris turi naršyti keldama savo karjerą.
Eidama direktorės pareigas, Raman vadovauja, integruoja ir vadovauja AI veiklai visoje CŽV. „Manome, kad dirbtinis intelektas yra tam, kad paremtų mūsų misiją“, – sakė ji. „Žmonės ir mašinos kartu yra mūsų AI naudojimo priešakyje.
AI nėra naujiena CŽV. Agentūra tiria duomenų mokslo ir AI taikymą maždaug nuo 2000 m., sako Ramanas, ypač natūralios kalbos apdorojimo (ty teksto analizės), kompiuterinės vizijos (vaizdų analizė) ir vaizdo analizės srityse. Ji pridūrė, kad CŽV stengiasi neatsilikti nuo naujesnių tendencijų, tokių kaip generatyvusis dirbtinis intelektas, turėdama veiksmų planą, kurį informuoja tiek pramonė, tiek akademinė bendruomenė.
„Kai galvojame apie didžiulius duomenų kiekius, kuriuos turime sunaudoti agentūroje, turinio skirstymas yra sritis, kurioje generatyvus AI gali turėti įtakos“, – sakė Ramanas. „Mes žiūrime į tokius dalykus kaip pagalba paieškai ir atradimams, pagalba sugalvoti ir padeda mums sukurti kontrargumentus, kurie padėtų kovoti su galimu analitiniu šališkumu.
JAV žvalgybos bendruomenėje jaučiamas skubos dislokavimas bet koks įrankiai, galintys padėti CŽV kovoti su augančia geopolitine įtampa visame pasaulyje – nuo teroro grėsmės, kurią skatina karas Gazoje, iki dezinformacijos kampanijų, kurias rengia užsienio veikėjai (pvz., Kinija, Rusija). Praėjusiais metais Specialiųjų konkurencinių studijų projektas, didelės galios patariamoji grupė, orientuota į dirbtinį intelektą nacionalinio saugumo srityje, nustatė dvejų metų terminą šalies žvalgybos tarnyboms, kad jos neapsiribotų eksperimentais ir ribotais bandomaisiais projektais, kad būtų pritaikytas generatyvus DI.
Vienas generatyvus dirbtinio intelekto varomas įrankis, kurį sukūrė CŽV, „Osiris“, yra šiek tiek panašus į „OpenAI“ „ChatGPT“, bet pritaikytas žvalgybos naudojimo atvejams. Jame apibendrinami duomenys – kol kas tik neįslaptinti ir viešai arba komerciškai prieinami duomenys – ir leidžia analitikams įsigilinti, užduodant tolesnius klausimus paprasta anglų kalba.
„Osiris“ dabar naudoja tūkstančiai analitikų ne tik CŽV sienose, bet ir 18-oje JAV žvalgybos agentūrų. Ramanas neatskleidė, ar jis buvo sukurtas įmonėje, ar naudojant trečiųjų šalių įmonių technologijas, tačiau teigė, kad CŽV bendradarbiauja su prekių ženklų pardavėjais.
„Mes pasitelkiame komercines paslaugas“, – sakė Ramanas ir pridūrė, kad CŽV taip pat naudoja dirbtinio intelekto įrankius tokioms užduotims kaip vertimas ir analitikams nedarbo metu įspėti apie galimai svarbius pokyčius. „Turime turėti galimybę glaudžiai bendradarbiauti su privačia pramone, kad galėtume padėti mums teikti ne tik didesnes paslaugas ir sprendimus, apie kuriuos girdėjote, bet ir dar daugiau nišinių paslaugų iš netradicinių pardavėjų, apie kuriuos galbūt dar nepagalvojote. .
Pilna technologija
Yra daug priežasčių skeptiškai vertinti ir nerimauti dėl CŽV naudojamo dirbtinio intelekto.
2022 m. vasario mėn. senatoriai Ronas Wydenas (D-OR) ir Martinas Heinrichas (D-Naujoji Meksika) viešame laiške atskleidė, kad CŽV, nors jai apskritai draudžiama tirti amerikiečius ir Amerikos įmones, turi slaptą, neatskleistą duomenų saugyklą, kurioje yra surinkta informacija apie JAV piliečius. Praėjusiais metais Nacionalinės žvalgybos direktoriaus biuro ataskaita parodė, kad JAV žvalgybos agentūros, įskaitant CŽV, perka duomenis apie amerikiečius iš duomenų brokerių, tokių kaip LexisNexis ir Sayari Analytics, be jokios priežiūros.
Jei CŽV kada nors naudotų dirbtinį intelektą šiems duomenims tirti, daugelis amerikiečių tikrai prieštarautų. Tai būtų aiškus pilietinių laisvių pažeidimas ir dėl dirbtinio intelekto apribojimų gali atsirasti labai neteisingų rezultatų.
Keletas tyrimų parodė, kad tokių firmų kaip „Geolitica“ nuspėjamieji nusikaltimų algoritmai yra lengvai iškreipti dėl areštų skaičiaus ir dažniausiai neproporcingai žymi juodaodžių bendruomenes. Kiti tyrimai rodo, kad veido atpažinimo rezultatas yra didesnis nei baltųjų žmonių klaidingo atpažinimo dažnis.
Be šališkumo, net geriausias AI šiandien haliucinuoja arba sugalvoja faktus ir skaičius, atsakydamas į užklausas. Pavyzdžiui, „Microsoft“ susitikimų apibendrinimo programinė įranga, kuri kartais priskiria citatas neegzistuojantiems žmonėms. Galima įsivaizduoti, kaip tai gali tapti problema žvalgybos darbe, kur svarbiausia yra tikslumas ir patikrinamumas.
Ramanas buvo įsitikinęs, kad CŽV ne tik laikosi visų JAV įstatymų, bet ir „laikosi visų etikos gairių“ ir naudoja dirbtinį intelektą „taip, kad sumažintų šališkumą“.
„Pavadinčiau tai apgalvotu požiūriu [to AI],” Ji pasakė. „Sakyčiau, kad mūsų požiūris yra toks, kai norime, kad mūsų vartotojai kuo daugiau suprastų apie naudojamą AI sistemą. Kuriant atsakingai dirbtinį intelektą, reikia, kad dalyvautų visos suinteresuotosios šalys; tai reiškia AI kūrėjus, tai reiškia mūsų privatumo ir pilietinių laisvių biurą [and so on].
Ramano nuomone, nepaisant to, kam sukurta dirbtinio intelekto sistema, svarbu, kad sistemos kūrėjai aiškiai nurodytų sritis, kuriose ji gali būti netinkama. Neseniai atliktame tyrime Šiaurės Karolinos valstijos universiteto mokslininkai nustatė, kad DI įrankius, įskaitant veido atpažinimo ir šūvių aptikimo algoritmus, naudojo policija, kuri nebuvo susipažinusi su technologijomis ar jų trūkumais.
Kaip ypač baisus piktnaudžiavimo teisėsaugos dirbtiniu intelektu pavyzdžiu, galbūt dėl nežinojimo, NYPD kažkada naudojo įžymybių nuotraukas, iškraipytus vaizdus ir eskizus, kad sugeneruotų įtariamųjų veidų atpažinimo atitikmenis tais atvejais, kai stebėjimo nuotraukos nedavė rezultatų.
„Naudotojai turėtų aiškiai suprasti bet kokią AI sugeneruotą išvestį, o tai, be abejo, reiškia AI sukurto turinio žymėjimą ir aiškius paaiškinimus, kaip veikia AI sistemos“, – sakė Ramanas. „Viską, ką darome agentūroje, laikomės savo teisinių reikalavimų ir užtikriname, kad mūsų vartotojai, partneriai ir suinteresuotosios šalys žinotų visus atitinkamus įstatymus, reglamentus ir gaires, reglamentuojančias mūsų AI sistemų naudojimą, ir mes laikomės visų šių taisyklių“.
Šis reporteris tikrai tikisi, kad tai tiesa.
