Utviklingen av sosiale medier i vestlige land øker myndighetenes behov for å kontrollere og styre meningsflommen i samfunnet. Det siste utspillet på dette området er trolig spanske myndigheters ønske å opprette et overvåkingssystem, styrt av kunstig intelligens (KI), for å spore opp og fjerne såkalt hatprat på nettet.
Nylig erklærte den spanske statsministeren, Pedro Sánchez, at den spanske regjeringen vil gjøre nettselskapene ansvarlig for hatefulle ytringer på plattformene sine og for de algoritmene som bidrar til å spre slike meninger på nettet.
Planene om en slikt KI-styrt overvåking av nettet er en del av et større opplegg som også omfatter å forby barn og ungdom under 16 år tilgang på sosiale medier. Den sistnevnte ordningen er allerede innført i Australia og er under utarbeidelse i flere andre land, som i Norge. Men denne begrensningen på adgangen til sosiale medier blir begrunnet med at det vil skåne barn mot å bli avhengig av og få mentale skader av å være på nettet. Det spanske overvåkingssystemet som har fått navnet HODIO, skal driftes av Spanias overvåkings-organ for rasisme for rasisme og xenofobi, melder nettstedet Politico.
FRYKT FOR SENSUR
I en artikkel på nettstedet til den amerikanske ytringsfrihetsorganisasjonen, FIRE (Foundation for Individual Rights and Expresion), advarer Sara McLaughlin mot at en slik overvåkning kan føre til press fra myndighetene for å sensurere lovlige, politiske ytringer. McLaughlin reiser flere andre spørsmål i forbindelse med HODIO-prosjektet, blant annet om hvordan operatørene av systemet vil definere hatprat, i hvor stor grad KI kan avgjøre hva hatefulle meninger er for noe og i hvilken grad systemet er i stand til å oppspore slike meninger. Og vil overvåkingssystemet kunne oppfange kompleksiteten og nyanser i politiske utsagn som noen mener er hatefulle og andre ikke?
FIRE har tidligere uttrykt lignende bekymringer for til Donald Trump-regjeringens planer om å bruke KI til å gå gjennom utenlandske studenters sosiale mediekontorer for å finne om det er grunnlag for å utvise dem fra USA på grunn av meninger de har om krigen mellom Israel og Hamas. Altså om studenter gir uttrykk for det Trump & co definerer som antisemittisme.
Ifølge McLaughlin er det uansvarlig å la et KI-system søke gjennom utsagn om en høy-profilert konflikt der språklige nyanser må vurderes i forhold til bestemmelsene i den amerikanske ytringsfrihetsloven, slik den er nedfelt i First Amendment.
”Vi kan ikke la et teknologisk apparat vurdere ytringsrettighetene i First Amendment i forhold til menings-nyansene i språklige uttrykk”, skriver hun i bloggen til FIRE. I USA finnes det ikke lover mot såkalt hatprat, og First Amendment til den amerikanske grunnloven gir et rom for ytringer som er langt videre enn hatpratlovene i EU og land som Norge.
HATPRAT-ANKLAGER SYSSELSETTER POLITIET
I tillegg til den tvilsomme praksisen med å la en maskin definere og oppspore det som defineres som hatprat, skal altså KI-systemet fungere som veileder for den spanske regjeringens mediepolitikk på dette området. Sánches har sagt at den spanske regjeringen ønsker å gjøre spredning av hatprat gjennom algoritmer lovstridig, og har sagt at sosiale medie-aktører vil bli gjort offentlige ansvarlige for hver eneste hatprat-uttalelse de slipper gjennom. Alt dette mener McLaughlin vil skape et grunnlag for at myndighetene kan regulere og styre meningsflommen på nettet ut fra et sensur-perspektiv.
Det spanske regjeringen er et av de mest politisk korrekte regimene i EU, og det annonserte overvåkingsprosjektet er et pionerprosjekt i det som kan kalles menings- og holdningsovervåking av hele samfunn. Prosjektet viser hvor langt myndighetene i vestlige land er villig til å gå for å hindre det som kalles hatprat.
Fra før av har flere europeiske land innført strenge lover på dette området. I mange land er politiet i stort omfang sysselsatt med å overvåke og arrestere folk som poster politisk ukorrekte meninger (hatprat) på nettet. I Storbritannia behandler politiet 12.000 slike saker årlig. Mange bøtelegges eller fengsles for handlinger som i et ”normalt” samfunn ville passere som en del av det å leve i et samfunn med uenighet og politisk strid, uten at man må passe på den sleivede kjeften sin for ikke å havne i fengsel.