„Midjourney“ planuoja išleisti atnaujintą žiniatinklio įrankį, kuris leis vartotojams redaguoti visus įkeltus vaizdus iš žiniatinklio naudojant „Midjourney“ generatyvųjį AI.
Atnaujintas įrankis, kuris, pasak „Midjourney“ generalinio direktoriaus Davido Holtzo, bus išleistas „kitos savaitės pradžioje“, taip pat leis vartotojams pertvarkyti objektus vaizduose, kad „perdažytų“ jų spalvas ir detales pagal antraštes.
Esamų vaizdų redagavimas naudojant AI pastaruoju metu tapo aktualia tema. Tokios platformos kaip „Meta“ kovojo, kaip pažymėti vaizdus, redaguotus naudojant dirbtinio intelekto įrankius, o ne su generuotus nuo nulio naudojant AI modelį, o tokios įmonės kaip „Google“ išleido galingas AI funkcijas, kurios nesuteikia vaizdinių vaizdų, kurie buvo modifikuoti AI.
Praėjusiais metais „Midjourney“ įsipareigojo naudoti IPTC skaitmeninio šaltinio tipo nuosavybę – techninį standartą, įterpiantį metaduomenis į vaizdus, nurodančius, kad jie buvo sukurti dirbtinio intelekto. Tačiau įmonė yra viena iš nedaugelio pagrindinių dirbtinio intelekto platformų, kuri nepriėmė C2PA – metaduomenų technologijos, atsekančios visą vaizdo kilmę, įskaitant jam sukurti naudojamą įrangą ir programinę įrangą.
Įraše „Midjourney“ oficialiame „Discord“ serveryje Holzas teigė, kad atnaujintas vaizdo įrankis bus apribotas „dabartinės bendruomenės pogrupyje“, padidinus žmogaus moderavimą, taip pat „naujus, pažangesnius AI moderatorius“, kad būtų išvengta. piktnaudžiavimo.
„Sąžiningai, nesame tikri, kaip tiksliai apriboti šios funkcijos diegimą“, – sakė jis. „Midjourney“ prašo bendruomenės atsiliepimų per apklausą, kurią ji naudos, kad nustatytų, kurie vartotojai pirmiausia gaus prieigą.
Išleidžiant tokio tipo redagavimo įrankius be tinkamų apsaugos priemonių kyla pavojus. Jie galėtų palengvinti didžiulio masto autorių teisių pažeidimus arba skatinti klaidinančių gilių klastotės plitimą.
Deepfake žaibiškai plinta socialinėje žiniasklaidoje, todėl tampa sunkiau atskirti tiesą nuo dezinformacijos. Visai neseniai po uragano „Helene“ žiniatinklį užplūdo netikri generatyvūs AI vaizdai apie sunaikinimą ir žmonių kančias.
Remiantis giliųjų klastotės aptikimo įmonės „Clarity“ duomenimis, šiais metais buvo sukurta ir paskelbta 900 % daugiau klastotės, palyginti su tuo pačiu laikotarpiu praėjusiais metais. Suprantama, tai kelia nerimą. Neseniai „YouGov“ atlikta apklausa parodė, kad 85% amerikiečių buvo susirūpinę dėl internete plintančių klaidinančių padirbinių.
Kadangi JAV federaliniu lygmeniu nėra įstatymo, numatančio nusikalstamą veiką už klastotes, daugiau nei 10 valstijų priėmė įstatus, draudžiančius apsimetinėjimą dirbtinio intelekto pagalba. Kalifornijos įstatymas, šiuo metu sustojęs, būtų pirmasis, įgaliojantis teisėjus įpareigoti plakatus su klastotėmis juos panaikinti arba gali būti baudžiama pinigine bauda.
Midjourney nebuvo ryškus atsakingo AI diegimo pavyzdys. (Ji iškelta byla dėl tariamo autorių teisių saugomo turinio naudojimo, pavyzdžiui, lavinant generatyvius dirbtinio intelekto modelius.) Tačiau pastaraisiais mėnesiais platforma ėmėsi veiksmų, kad apribotų padirbinėjimo plitimą, įskaitant filtrus, skirtus politiniams veikėjams iki JAV prezidento rinkimų. rinkimai.