Hvordan kan kunstig intelligens påvirke driften?

Når forskere evaluerer indflydelsesoperationer, overvejer deaktører, adfærd og indhold. Den udbredte tilgængelighed af teknologi drevet af sprogmodeller har potentiale til at påvirke alle tre facetter:

1. Aktører: Sprogmodeller kunne nedbringe omkostningerne ved at drive indflydelsesoperationer og placere dem inden for rækkevidde af nye aktører og aktørtyper. Ligeledes kan propagandister til leje, der automatiserer produktion af tekst, få nye konkurrencefordele.

2. Opførsel: Påvirkningsoperationer med sprogmodeller bliver nemmere at skalere, og taktikker, der i øjeblikket er dyre (f.eks. generering af personligt indhold), kan blive billigere. Sprogmodeller kan også gøre det muligt for nye taktikker at dukke op - som realtidsindholdsgenerering i chatbots.

3. Indhold: Tekstskabelsesværktøjer drevet af sprogmodeller kan generere mere virkningsfulde eller overbevisende budskaber sammenlignet med propagandister, især dem, der mangler den nødvendige sproglige eller kulturelle viden om deres mål. De kan også gøre indflydelseshandlinger mindre synlige, da de gentagne gange skaber nyt indhold uden at skulle ty til copy-paste og anden mærkbar tidsbesparende adfærd.

Vores bundlinje er, at sprogmodeller vil være nyttige for propagandister og sandsynligvis vil transformere online indflydelsesoperationer. Selv hvis de mest avancerede modeller holdes private eller kontrolleres via API-adgang (Application Programming Interface), vil propagandister sandsynligvis ty til open source-alternativer, og nationalstater kan investere i teknologien selv.