우리의 이야기 | 파이파이

걱정으로 시작되다

2024년이었어요. AI가 어디에나 있었죠. 우리 아이들은 호기심이 많았어요-정말로, 끝없이 호기심이 많았어요. 그리고 그들은 친구들처럼, 우리처럼 ChatGPT, Google Gemini, Claude를 사용하고 싶어했어요.

우리는 그들에게 시도하게 했어요. 그리고 몇 시간 안에 문제가 시작되었어요.

우리 아이들 중 한 명-여덟 살-이 ChatGPT에게 간단한 창작 글쓰기에 대한 질문을 했고, 그 결과로 폭력적인 이미지가 포함된 내용을 받았어요. 또 다른 아이는 역사적 사건에 대해 물어보고 전쟁 범죄에 대한 상세하고 성인적인 설명을 받아와서 눈에 띄게 불안해했어요.

이것들은 예외적인 경우가 아니었어요. 우리가 아는 가족들에게 일관되게, 예측할 수 없이 발생했어요.

우리는 모든 것을 시도했다

우리는 몇 달 동안 주류 AI 도구를 우리 아이들에게 안전하게 만들려고 노력했어요. 맞춤형 시스템 프롬프트를 시도했어요. 감독을 시도했어요. "어린이 모드" 브라우저 확장 프로그램을 시도했어요. 부모 통제를 시도했어요.

일관되게 작동하는 것은 없었어요. 근본적인 문제는 이러한 도구들이 아이들을 염두에 두고 만들어지지 않았다는 것이었어요. 안전은 성인을 위해 설계된 시스템 위에 얇은 필터 층으로 덧붙여진 후순위였어요.

우리 아이들은 더 나은 것을 받을 자격이 있었어요. 모든 아이들이 더 나은 것을 받을 자격이 있었어요.

모든 것을 바꾼 팀

우리는 단지 부모였어요. 하지만 우리는 기술, 교육, 디자인, 제품 개발에 능력이 있는 부모였어요. 그래서 우리는 무언가를 하기로 결정했어요.

우리는 아동 발달 전문가, AI 안전 연구원, 세 개국의 교육자, 트라우마를 다루는 아동 심리학자, 그리고 우리와 매우 다른 지역 사회의 부모들을 초대했습니다.

우리는 한 가지 질문을 했어요: "아이들에게 진정으로 안전한 AI는 어떤 모습일까요?"

그 답을 찾는 데 18개월이 걸렸어요.

우리가 만든 것

Piepie는 필터가 있는 ChatGPT가 아니에요. 아이들을 위한 AI가 어떤 모습이어야 하는지를 처음부터 다시 상상한 것이에요. 모든 디자인 결정은 한 가지 질문을 염두에 두고 이루어졌어요: "이것이 아이에게 적합한가?"

네 가지 층의 안전 시스템. Piepie가 진짜 친구처럼 기억하는 메모리. 아이들이 이메일 계정 없이도 로그인할 수 있는 단일 코드 로그인. 아이들의 신뢰를 배신하지 않으면서 보호하는 부모 알림 시스템. 가족들이 단일 세계관을 강요하지 않고 그들의 가치를 공유할 수 있게 하는 이념적 지침.

이 모든 것은 부모, 심리학자, 교육자들이 함께 앉아서 "무엇이 실제로 도움이 될까?"라는 질문을 하면서 나왔어요.

당신에 대한 우리의 약속

아이를 최우선으로

모든 결정은 당신의 아이의 행복을 최우선으로 고려하여 이루어집니다.

커뮤니티 중심

우리는 부모가 부모를 위해 만드는 것입니다. 우리의 커뮤니티는 우리가 만드는 모든 업데이트에 영향을 미칩니다.

안전은 결코 멈추지 않는다

우리의 안전 시스템은 아동 안전과 AI에 대해 더 많이 알게 될수록 지속적으로 업데이트됩니다.

“우리는 우리 아이들을 위해 존재했으면 하는 AI를 만들었습니다. 당신도 그들이 사랑하는 만큼 좋아하길 바랍니다.”

- 파이파이 팀