Pranešama, kad stebėjimo programos yra skirtos LGBTQ+ studentams

Remiantis nauja ataskaita, mokyklose naudojamos skaitmeninės stebėjimo programos netinkamai pažymi LGBTQ+ turinį kaip pornografinį. Išvados kelia rimtą susirūpinimą dėl studentų privatumo ir stebėjimo programinės įrangos veiksmingumo.

Švietimo naujienų svetainės atliktas tyrimas 74 nustatė rimtų privatumo problemų, susijusių su Gaggle – programine įranga, kurią Mineapolio valstybinės mokyklos įdiegė COVID-19 pandemijos pradžioje. „Gaggle“ iš esmės stebi viską, kas yra mokinio kompiuteryje: el. laiškų, pokalbių pranešimų ir kitų dokumentų turinį, įskaitant žurnalo įrašus ir užduotis klasėje. Jei programinė įranga randa tam tikrus raktinius žodžius ar paveikslėlius, apie tai pranešama mokyklos pareigūnams.

Tačiau, kaip ir daugelio automatizuotų sistemų atveju, „Gaggle“ turinio moderavimo politika daro netyčinį neigiamą poveikį LGBTQ+ žmonėms.

Vienas trans aštuntos klasės mokinys Teethas Logsdonas-Wallace'as aprašė tariamą incidentą, kai jis pateikė mokyklos užduotį, kurioje buvo kalbama apie jo atsigavimą po bandymo nusižudyti ir kaip folk punk daina jam padėjo tai įveikti. Tačiau po dviejų dienų mokyklos konsultantas paskambino Logsdon-Wallace motinai ir pranešė, kad Gaggle pažymėjo, kad jos vaiko užduotis paminėjo žodį savižudybė, visiškai be konteksto.

Bandžiau būti pažeidžiama su šiuo mokytoju ir pasakyti: „Ei, man svarbus dalykas, nes tu paklausei“, – sakė Logsdonas-Wallace'as. Dabar, kai aiškiai pasakiau, kad esu daug geriau, mokykla susisiekia su mano konsultantu ir išsigauna.

Atsižvelgiant į tai, kad queer ir trans jaunimas yra žymiai labiau tikėtina nei jų bendraamžiai kad jie patirtų savižudybę, tokia politika galėtų neproporcingai paveikti juos, tuo pačiu siekdama užtikrinti jų saugumą. Ir atrodo, kad ataskaitoje teigiama, kad minėtas incidentas nėra pavienis: 74 rado daugiau nei tris dešimtis pranešimų apie incidentus, kuriuose Gaggle pažymėjo su seksualumu susijusius terminus, tokius kaip gėjus ir lesbietė.

Nepaisant susirūpinimo dėl studentų privatumo, sakė „Gaggle“ generalinis direktorius Jeffas Pattersonas CBS naujienos t Jis tikėjo, kad programinė įranga iš tikrųjų suteikia daugiau naudos šių pažeidžiamų grupių studentams. Jis tvirtino, kad šie terminai buvo įtraukti į pažymėtų žodžių sąrašą, kad būtų išvengta patyčių ir priekabiavimo.

Tačiau kritikai teigia, kad programinė įranga turėjo priešingą poveikį. Teigiama, kad studentas Pietų vidurinėje mokykloje Mineapolyje be jų žinios buvo išsiųstas savo tėvams, kai mokinys buvo pažymėtas per „Gaggle“, rašoma jos universiteto laikraštyje.

Mokyklos administracija su [mokiniu] visiškai nekalbėjo, kol nebuvo paskambinti jų tėvams, sakė šaltinis Pietietis .

Programinė įranga sukėlė susirūpinimą ir demokratų įstatymų leidėjams, įskaitant senatorius Elizabeth Warren (D-Mas.), Edą Markey (D-Mas.) ir Richardą Blumenthalį (D-Conn.), kurie rašė laiškus Gaggle įmonės vadovams rugsėjį. Senatoriai išreiškė susirūpinimą dėl duomenų sekimo perviršio ir skaidrumo trūkumo.

Šių priemonių naudojimas gali palaužti pasitikėjimą mokyklose, neleisti mokiniams pasiekti svarbios sveikatos informacijos ir atgrasyti mokinius nuo pagalbos kreiptis į suaugusiuosius, o tai gali padidinti mokinių žalos riziką, rašoma viename laiške.

Studentų veiklos internete kontrolė taip pat gali dar labiau atgrasyti spalvotus studentus ir LGBTQ+ studentus kreiptis pagalbos į suaugusiuosius, o studentai likti be svarbios informacijos ir paramos.

Click here

Gėjų kunigas atsistatydino dėl Grindro naudojimo. Jį pribloškė jo mobiliojo telefono duomenys Kritikai sako, kad tai priminimas, kaip lengvai gali būti piktnaudžiaujama technologijų vartotojų privatumu skaitmeniniame amžiuje. Žiūrėti istoriją

Užuot mokėję iki 60 000 USD per metus už programinę įrangą, įstatymų leidėjai rekomenduoja mokykloms investuoti į vietines pagalbos žmonėms paslaugas, pvz., konsultantus ar kitus mokyklose dirbančius psichikos sveikatos specialistus, kurie gali plėtoti santykius ir pasitikėjimą su mokiniais, kad apsaugotų jų gerovę. ir užkirsti kelią psichinės sveikatos epizodams.

Tai ypač ryškus pasiūlymas, turint omenyje, kad yra įrodymų mažai arba visai nėra kad mokinių stebėjimo programos iš tikrųjų sukuria mokinių saugumą arba pagerina psichikos sveikatos rezultatus.

Algoritmai jau seniai turėjo problemų dėl netinkamo LGBTQ+ turinio žymėjimo. Balandžio mėnesio ataskaita iš technologijų leidinio Pagrindinė plokštė nustatė, kad kita mokyklos saugos programinė įranga „Securly“ pažymėjo LGBTQ+ susijusias svetaines kaip pornografiją. Svetainės, kurioms taikomas „Securly“ algoritmas, apėmė keistas naujienų svetaines ir LGBTQ+ sveikatos išteklių puslapius.

Problema yra ne tik mokomoji programinė įranga: buvo tokie technologijų milžinai kaip „YouTube“. paduotas į teismą dėl keistų kūrėjų demonetizavimo ir slopinimo skirtas suaugusiesiems skirtam turiniui. Pranešama, kad „TikTok“. šešėliai uždrausti LGBTQ+ kūrėjai kol leisdami žiauriai homofobiniam turiniui plisti , nors bendrovė galiausiai atsiprašė už buvusią klaidą. Liūdnai pagarsėjęs „Tumblr“ uždraudimas rodyti pornografiją ir moterų spenelius 2018 m. pažymėti visiškai nekenksmingas medžiagas , įskaitant nepornografinį LGBTQ+ turinį.