TikTok og AI-virkeligheden
af Lucas Rigillo, ledelsesmedlem
Som et af de eneste medlemmer af Kritik Digital, der stadig tør (eller er dum nok til) at være på TikTok, følger jeg godt med i de hurtigskiftende internettendenser, som app'en og dens mesterlige algoritmer præsenterer mig for.
For tiden er AI-generede stemmeefterligninger det helt store, hvor det oftest er populærfigurer såsom Biden, Trump, Drake og Elon Musk, som lægges ord i munden (bogstavelig talt? Metaforisk? Man ved snart ikke længere…). De bliver til groftsnakkende gamere i Minecraft, Valorant, Counter Strike eller hvad end der behager. Indrømmet, så er videoerne absurd sjove. De er sjove fordi de er absurde.
Men jeg (og kommentarsporene) begynder hurtigt at overveje, hvad i alverden disse enormt nøjagtige efterligninger vil komme til at betyde, når de ikke bare bruges til bramfri internethumor. Det er jo trods alt kun ytringernes absurditet, der afslører, at de ikke rent faktisk kommer fra den imiterede person.
Selvsagt skulle det være en TikTok, der skænkede nogle svar på disse overvejelser. Og det var selvsagt én, der også fungerede gennem AI-stemmeefterligning. Her var det karakterer fra spilserien Metal Gear Solid, der metadiskuterede fænomenet, og med en mild konspirationsteoretisk klang forudså, at AI-efterligninger kunne betyde enden på internet-anonymitet og ytringsfrihed som vi kender den.
Sagen, som videoen præsenterer den, er denne: snart vil internettet blive ét forvirret rod, hvor nøjagtige stemme- og videoefterligninger vil gøre det umuligt at kende forskel på rellee og syntetiske onlinekonti. Løsningen vil så være, at der bliver introduceret obligatorisk identitetsverificering for alle, der ønsker at tilgå internettet.
Hvis man nægter at lade sig verificere, vil man ikke bare blive låst ude af sociale medier, chattjenester og streaming, men det vil til og med blive umuligt at handle på nettet, ja selv åbne en bankkonto. For hvilken bank vil risikere at handle med en syntetisk kunde?
Hvad end man tilslutter sig mareridtscenariet, som TikTokken udlægger, eller ej, så er det åbenlyst, at det går forbløffende langsomt med at få omtalt, diskuteret og mest af alt reguleret den myriade af nye AI-teknologier, som kastes ud på nettet i denne periode.
Jovist er ChatGPT blevet et hverdagsord, men jeg kan ikke lade være med at frygte, at den kun er en overflade, der dækker og distraherer fra de hastigt udviklende lyd- og billedeefterligninger, hvis effekt på internettet og samfundet i det hele taget, endnu kun kan spås om.