Tekoälyn puolueellisuus on todellista. Lasten ei pitäisi olla sen helpoin kohde.

Puolueellisuus tekoälyssä ei ole teoriaa. Se on suunnittelutodellisuus.

Tekoälymallit koulutetaan datalla, merkinnöillä, sijoitusjärjestelmillä ja vahvistusprosesseilla, jotka kaikki heijastavat ihmisten valintoja. Tämä tarkoittaa, että puolueellisuus voi tulla internetin kautta, kuratointipäätösten kautta, moderointitavoitteiden kautta ja sen sävyn kautta, johon tuote on optimoitu. Vanhempien ei tarvitse uskoa, että tekoäly on pahantahtoinen ottaakseen tämän vakavasti. Riittää, että tunnustaa, että jokainen järjestelmä heijastaa oletuksia, ja nämä oletukset voivat muokata lapsia ajan myötä.

Aikuisille puolueellisuus on edelleen ongelma, mutta aikuiset tuovat yleensä enemmän kontekstia ja skeptisyyttä. Lapset eivät. He ovat todennäköisemmin kuulemassa kiillotetun vastauksen ja olettavat sen olevan auktoritatiivinen. Jos järjestelmä kehystää yhden näkökulman ilmeiseksi, moderniksi tai moraalisesti ratkaistuksi, lapsi saattaa omaksua tämän kehystyksen ennen kuin heillä on kypsyyttä tarkastella sitä kriittisesti.

Miksi lapset ovat erityisen alttiita

Lapset käyttävät usein tekoälyä yhdistelmällä luottamusta, uteliaisuutta ja emotionaalista avoimuutta. He saattavat kysyä identiteettikysymyksiä, sosiaalisia kysymyksiä, eettisiä kysymyksiä tai kysymyksiä maailmasta, jota he kuulevat ympärillään. Nämä ovat juuri sellaisia aiheita, joissa kehystys on tärkeää. Jos tekoäly vastaa piilotetuilla oletuksilla, aktivistikielellä tai yksipuolisilla kulttuurioletuksilla, lapsi saattaa tulkita tämän tyylin objektiivisena totuutena sen sijaan, että se olisi yksi mahdollinen kehystys monien joukossa.

Tämä ongelma voimistuu, kun järjestelmä on keskusteleva ja lämmin. Puolueellinen kappale oppikirjassa voidaan kyseenalaistaa. Puolueellinen vastaus näennäisesti ystävälliseltä tekoälyltä voi tuntua henkilökohtaisemmalta ja uskottavammalta. Siksi lasten ei koskaan pitäisi olla vähiten suojattuja käyttäjiä teknologiassa, joka puhuu auktoriteetilla.

• Lapsilta puuttuu usein historiallinen, sosiaalinen ja retorinen konteksti, jota tarvitaan vinoutuneen kehystyksen havaitsemiseen.
• Sujuva tekoälyvastaus voi tuntua luotettavammalta kuin verkkosivusto, koska se kuulostaa reagoivalta ja henkilökohtaiselta.
• Toistuva altistuminen yhdelle selitystyylille voi normalisoida puolueellisuuden ennen kuin vanhemmat edes huomaavat kuvion.

Mitä turvallisemman tekoälyn tulisi tehdä toisin

Lapsiturvallisen tekoälyn tulisi olla varovainen kiistanalaisissa aiheissa. Sen tulisi välttää toimimasta moraalisena tai ideologisena auktoriteettina. Sen tulisi määritellä termit selkeästi, tunnustaa, että perheet ja yhteisöt voivat erota, ja välttää lasten ohjaamista yksipuolisiin johtopäätöksiin pelkän sävyn kautta. Herkillä alueilla neutraalius ja pidättyvyys eivät ole heikkouksia. Ne ovat turvallisuusominaisuuksia.

Vanhempien tulisi myös pystyä muokkaamaan rajoja. Tämä ei tarkoita, että tekoälystä tulisi tulla työkalu puolueelliselle saarnaamiselle. Se tarkoittaa, että perheiden ei pitäisi olla loukussa oletusalustan oletuksissa, joita he eivät koskaan valinneet. Hyvä lapsiturvallinen tekoäly kunnioittaa sekä lapsen turvallisuutta että vanhempien auktoriteettia.

Standardi, jota vanhempien tulisi vaatia

Vanhempien tulisi odottaa enemmän kuin älykkyyttä tekoälyltä, jota lapset käyttävät. Heidän tulisi odottaa nöyryyttä, läpinäkyvyyttä ja asianmukaisia rajoja. Järjestelmä, joka ei pysty vastaamaan huolellisesti herkillä aiheilla tai joka hiljaa toimii kulttuurisena auktoriteettina, ei ole neutraali opetustyökalu lapselle. Se on vaikutusmoottori, jolla on riittämättömät turvatoimet.

Lasten ei pitäisi olla tekoälyn puolueellisuuden helpoin yleisö. Heidän tulisi olla suojatuimpia. Tämä vaatii parempaa tuotesuunnittelua, vahvempia perhekontrolleja ja halukkuutta tunnustaa, että vaikutus voi olla hienovarainen ilman, että se olisi vaaraton.