Hikayemiz | Piepie

Endişe ile Başladı

Yıl 2024'tü. AI her yerdeydi. Çocuklarımız meraklıydı-parlak, doymak bilmez bir merakla doluydular. Ve arkadaşları gibi ChatGPT, Google Gemini ve Claude kullanmak istiyorlardı. Tıpkı bizim gibi.

Denemelerine izin verdik. Ve saatler içinde sorunlar başladı.

Çocuklarımızdan biri-sekiz yaşında-ChatGPT'ye basit bir yaratıcı yazı sorusu sordu ve yatakta açıklamak zorunda kaldığımız şiddet içeren görüntüler içeren içerik aldı. Bir diğeri ise tarihi bir olay hakkında soru sordu ve savaş suçları hakkında detaylı, yetişkinlere yönelik bir açıklama aldı ve bu onu gözle görülür şekilde rahatsız etti.

Bunlar uç örnekler değildi. Bu, tanıdığımız ailelerde sürekli, öngörülemez bir şekilde oluyordu.

Her Şeyi Denedik

Çocuklarımız için ana akım AI araçlarını güvenli hale getirmeye çalışarak aylar geçirdik. Özel sistem komutları denedik. Gözetim denedik. "Çocuk modu" tarayıcı eklentileri denedik. Ebeveyn kontrolleri denedik.

Hiçbir şey tutarlı bir şekilde çalışmadı. Temel sorun, bu araçların çocuklar düşünülerek tasarlanmamış olmasıydı. Güvenlik, yetişkinler için tasarlanmış bir sistemin üzerine ince bir filtre katmanı olarak düşünülmüştü.

Çocuklarımız daha iyisini hak ediyordu. Her çocuk daha iyisini hak ediyordu.

Her Şeyi Değiştiren Ekip

Biz sadece ebeveyndik. Ama teknoloji, eğitim, tasarım ve ürün geliştirme alanlarında becerilere sahip ebeveynlerdik. Bu yüzden bir şeyler yapmaya karar verdik.

Çocuk gelişimi uzmanları, AI güvenlik araştırmacıları, üç ülkeden eğitimciler, travma ile çalışan bir çocuk psikoloğu ve bizimkinden çok farklı topluluklardan ebeveynleri bir araya getirdik.

Tek bir soru sorduk: "Çocuklar için gerçekten güvenli bir AI nasıl görünürdü?"

Cevabı inşa etmek 18 ay sürdü.

Yaptığımız Şey

Piepie, bir filtre ile ChatGPT değildir. Çocuklar için AI'nın nasıl olması gerektiğine dair baştan aşağı yeniden bir tasavvurdur. Her tasarım kararı tek bir soruyla yapıldı: "Bu bir çocuk için doğru mu?"

Dört katmanlı güvenlik sistemi. Piepie'yi gerçek bir arkadaş gibi hissettiren hafıza. Çocukların e-posta hesaplarına ihtiyaç duymadan giriş yapmalarını sağlayan tek kodlu giriş. Çocukları koruyan ancak güvenlerini ihlal etmeyen ebeveyn bildirim sistemi. Ailelerin tek bir dünya görüşünü zorlamadan değerlerini paylaşmalarına olanak tanıyan ideolojik kılavuzlar.

Bunların hepsi, ebeveynler, psikologlar ve eğitimcilerden oluşan ekibimizin bir araya gelip "Gerçekten ne yardımcı olurdu?" diye sormasından doğdu.

Size Verdiğimiz Söz

Önceliğimiz Çocuklar

Her karar, çocuğunuzun iyiliği öncelikli olarak düşünülerek alınır.

Toplum Odaklı

Biz ebeveynler, ebeveynler için inşa ediyoruz. Toplumumuz, yaptığımız her güncellemeyi şekillendirmeye yardımcı oluyor.

Güvenlik Asla Durmaz

Güvenlik sistemlerimiz, çocuk güvenliği ve yapay zeka hakkında daha fazla şey öğrendikçe sürekli güncellenir.

“Kendi çocuklarımız için var olmasını istediğimiz yapay zekayı inşa ettik. Onların sevdiği kadar sizin de sevmenizi umuyoruz.”

- Piepie Ekibi