Instagram tester en ‘AI-skaper’-merkelapp og overlater valget til skaperne

Instagram ruller ut det mest direkte signalet til nå om at en konto kjøres på kunstig intelligens — en merkelapp på profilnivå som lyder «Denne profilen publiserer innhold som er generert eller endret med AI». Det finnes et forbehold som definerer hele funksjonen — det er helt opp til skaperen å slå merkelappen på.

Det nye «AI-skaper»-merket dukker opp to steder. Det vises godt synlig på skaperens profilside og følger med innleggene og Reels-ene deres når disse vises andre steder i appen — i feeden, i Utforsk, inne i Reels. Formuleringen er merkbart tydeligere enn Metas eksisterende «AI info»-merker, som bare antyder at et gitt innlegg «kan» være laget eller redigert med et AI-verktøy. Det nye merket pakker ikke noe inn.

For brukerne er den praktiske effekten, når en konto med merket på står foran dem, reell. Å vite at alt som kommer ut fra en profil er AI-generert, endrer hvordan profilen leses — hva bildene hevder, hva stories påstår, hva livsstilsscenene antyder. Instagrams interne melding til skaperen rammer dette inn som en fordel: «Denne merkelappen bygger tillit ved å hjelpe publikummet ditt å forstå hva de ser på Instagram.» Meta beskriver det bredere arbeidet som å heve listen for AI-åpenhet.

Du vil kanskje også likeIdentitetslaget som internett aldri hadde, bygges nå — under syntetisk press

Opt-in-utformingen er der bildet svekkes. De kontoene som med størst sannsynlighet villeder en seer om hvorvidt innholdet er ekte, er de samme kontoene som med minst sannsynlighet frivillig oppgir at de kjøres på AI. Sammenlign alternativene Meta kunne ha valgt. Plattformen kunne ha slått merket på som standard, gjort det obligatorisk eller redusert rekkevidden til kontoer som nekter å merke seg selv. Ingen av disse alternativene ligger på bordet. Metas eget Oversight Board har separat påpekt at de eksisterende AI-opplysningene anvendes ujevnt, fordi Meta mangler en pålitelig måte å oppdage det AI-genererte innholdet som beveger seg gjennom appene deres.

Resultatet er et system som hviler på den gode viljen til den mest investerte brukerkategorien på Instagram. Enhver som driver en lønnsom AI-personlighet — fiktive influensere, AI-genererte livsstilskontoer, motesider med AI-modeller — har et direkte økonomisk insentiv til å ikke kunngjøre at innholdet er syntetisk. Merket er mer nyttig som verktøy for etablerte skapere som bruker AI av og til og vil spille med åpne kort, mindre nyttig som forsvar mot akkurat de delene av AI-bølgen som selskapet ser ut til å ville ta tak i i utgangspunktet.

Det gjenstår også spørsmålet om hva merket betyr for skapere som bruker AI som ett verktøy blant mange. En fotograf som kjører oppskalering, en videoredigerer som bruker AI-støyreduksjon, en livsstilsskaper som av og til sender et bilde gjennom et generativt verktøy — alle ville teknisk falle inn under «generert eller endret med AI». Meta har ikke utdypet hvor grensen går mellom AI-hjelp som utløser merket, og AI-hjelp som ikke gjør det.

Testen rulles ut gradvis. Det er ingen kunngjort dato for en bredere utrulling, ingen forpliktelse til å gjøre merket obligatorisk, og foreløpig ingen signaler om at AI-merking vil knyttes til Instagrams distribusjonsalgoritmer. Den egentlige prøven på funksjonen blir ikke utrullingen — det blir om akkurat de kontoene som mest fortjener merket, noen gang slår det på.

Mer som dette

Folk scroller videre til de finner et bilde som beviser at et menneske har laget det

Flere slår av AI-verktøy for å skrive selv

WhatsApp lanserer brukernavn — du trenger ikke lenger dele telefonnummeret

Autentisitetens krise i en tidsalder med syntetiske medier

Spøkelset som styrer: når autonom KI overgår systemene som er utformet for å inneholde den

KI endrer hvordan vi tenker, skriver og får ting gjort