Snapchatova umetna inteligenca je priklicala zasebno pritožbo: policija je aretirala učiteljico

S. je bila aretirana po tem, ko je Snapchatova AI označila zasebno sporočilo, ki ga je poslala svojim sostanovalcem in partnerjem, kot grožnjo z nasiljem. Incident se je zgodil 29. januarja 2025 v javni osnovni šoli v Illinoisu, ko so policisti prispeli v šolski prostor na podlagi opozorila, ki ga je ustvaril Snapchatov sistem za moderacijo vsebine. Aretacija je sledila kratkemu obdobju, v katerem je učiteljica študentka delila sporočilo, v katerem je izrazila frustracijo nad študentko, ki je domnevno izbrisala svoj učni načrt iz svojega računalnika.

Kristen Volpe, 22-letna pripravnica, se je sprva trudila razumeti, zakaj je bila pridržana. Kasneje se je spomnila, da je sporočilo poslala svojim sostanovalcem in partnerjem in opisala situacijo s študentom, ki se je vmešal v njeno delo. Po poročilih je bilo sporočilo lahkotno in namenjeno kot šala, vendar je Snapchatova AI razvrstila kot potencialno dejanje nasilja.

Ti posnetki, objavljeni v začetku leta 2026, so pokazali, da je Volpe postajala vse bolj zaskrbljena, ko je spoznala, da je njeno zasebno sporočilo privedlo do njenega aretacije. Kljub njeni zmedi in očitni nedolžnosti so policisti izjavili, da so bili prisiljeni po zakonskih zahtevah, da jo vzamejo v pripor za zaslišanje. Poudarili so, da ni neposredne nevarnosti, vendar so sledili protokolu, da bi zagotovili skladnost s smernicami za poročanje. Volpe je bila naslednji dan sprostljena brez varščine, obtožbe za neskladno ravnanje pa so bile pozneje zavrnjene.

V pismu inšpektorja šolskega okrožja okrožja Washington je obvestil Volpejeve starše, da ji bodo zavrnili možnost, da dokonča preostanek svojih praktičnih ur poučevanja v šoli.

Kritiki trdijo, da ta pomanjkanje šifriranja izpostavlja zasebne komunikacije uporabnikov morebitni zlorabi, še posebej, ko lahko avtomatizirani sistemi napačno razlagajo neškodljive vsebine kot škodljive. Zagovorniki močnejših digitalnih pravic poudarjajo, da resnično šifriranje od konca do konca zagotavlja, da lahko samo pošiljatelj in prejemnik pregledajo sporočila, kar preprečuje dostop tretjih oseb tudi operaterjem platform.

Medtem ko so bile pravne posledice za Volpe omejene, širše posledice za digitalno zasebnost in osebno svobodo ostajajo sporna točka med strokovnjaki in uporabniki.