Keputusan Batas Usia yang Harus Diambil Situs Kecil Sebelum Menambah Chatbot AI

Pengumuman OpenAI pada 8 September 2026 tentang hibah riset independen hingga US$5 juta untuk generative AI dan perkembangan remaja menjadi jeda yang berguna bagi tim pengelola situs web. Pengumuman itu tidak menyelesaikan pertanyaan mengenai dampak AI terhadap kaum muda. Isinya menyatakan bahwa dampak tersebut dapat bergantung pada tujuan remaja memakai AI, cara mereka berinteraksi dengannya, keadaan mereka, serta dukungan di sekeliling mereka. Ketidakpastian itulah intinya. Usaha kecil tidak perlu menunggu semua pertanyaan riset terjawab untuk mengambil satu keputusan produk mendasar: berdasarkan usia, sebenarnya fitur ini ditujukan untuk siapa?

Banyak tim memulai dari urutan yang berlawanan. Widget chat menjanjikan jawaban lebih cepat. Modul rekomendasi menjanjikan produk, artikel, atau kursus yang lebih relevan. Seseorang mengaktifkan fitur dari vendor, menambahkan satu kalimat pendek pada kebijakan privasi, lalu menganggap sisanya adalah persoalan konten. Padahal sistem chat dan rekomendasi mengubah hubungan antara pengunjung dan situs. Sistem itu mengundang masukan, menyimpulkan minat dari perilaku, dan dapat memengaruhi hal berikutnya yang dilihat atau dilakukan seseorang. Ketika pengunjung mungkin seorang anak atau remaja, audiens yang tidak didefinisikan adalah celah desain dengan konsekuensi bagi privasi, keselamatan, dan operasional.

Batas usia bukan gerbang usia dekoratif. Ia adalah keputusan terdokumentasi mengenai orang termuda yang memang dirancang untuk dilayani fitur tersebut, informasi yang boleh diterimanya, perlindungan yang berlaku, serta jalur yang disediakan bagi orang lain. Keputusan itu seharusnya sudah ada sebelum tim menulis prompt, menghubungkan analitik, mengimpor katalog produk, atau mengukur konversi.

Bagi peritel lokal, klinik, pemasok sekolah, usaha perhotelan, penerbit, atau perusahaan jasa, hal ini dapat terdengar lebih besar daripada fiturnya sendiri. Biasanya justru lebih kecil dan lebih nyata. Definisikan audiens. Petakan data. Tetapkan akses bawaan. Uji pengalihan. Simpan catatan keputusannya. Pekerjaan ini memang tidak semenarik demo percakapan, tetapi di sinilah peluncuran yang bertanggung jawab dimulai.

Batas usia sebuah situs menjawab sejumlah pertanyaan yang sering dicampuradukkan tim. Apakah situs utama ditujukan bagi orang dewasa, remaja, anak-anak, atau audiens campuran? Apakah fitur AI tersedia bagi setiap pengunjung, hanya pelanggan yang masuk akun, atau hanya kelompok usia tertentu? Apakah bisnis mengetahui usia pengunjung, atau sekadar memilih agar fitur itu tidak diarahkan kepada anak-anak? Apa yang terjadi ketika pengguna menyatakan usianya berada di bawah ambang? Ini adalah persyaratan produk karena setiap jawaban mengubah antarmuka, aliran data, konfigurasi vendor, skrip dukungan, dan rencana pengukuran.

Panduan COPPA dari Federal Trade Commission Amerika Serikat dapat menjadi titik awal praktis bagi tim yang melayani Amerika Serikat. COPPA berkaitan dengan situs komersial dan layanan daring yang ditujukan kepada anak di bawah 13 tahun serta mengumpulkan, menggunakan, atau mengungkapkan informasi pribadi, juga layanan ber-audiens umum yang benar-benar mengetahui bahwa mereka melakukannya. FTC mencantumkan informasi seperti detail kontak daring, pengenal persisten, foto, video, audio yang memuat gambar atau suara anak, serta geolokasi yang cukup presisi sebagai kategori yang dapat menjadi informasi pribadi. Kotak chat dapat menerima nama, nomor telepon, detail sekolah, gambar, transkrip suara, atau pengungkapan pribadi berbentuk bebas. Fitur rekomendasi dapat mengandalkan pengenal dan perilaku dari waktu ke waktu. Menyebut kedua alat itu “sekadar widget” tidak mengubah aliran data tersebut.

COPPA bukan panduan desain usia yang berlaku universal, dan situs global mungkin menghadapi rezim hukum lain. Namun kerangkanya membantu membongkar kesalahan yang lazim: memperlakukan usia sebagai kolom demografis yang dikumpulkan karena pemasaran menginginkannya. Batas usia seharusnya mengurangi pengumpulan yang tidak perlu. Bila bisnis tidak perlu menjalankan fitur AI bagi anak-anak, pilihan operasional yang lebih aman mungkin adalah membuat fitur itu tidak tersedia bagi mereka, alih-alih mengumpulkan lebih banyak data pribadi demi mencoba mempersonalisasikannya.

Panduan UNICEF mengenai AI dan anak melampaui satu aturan privasi saja. Persyaratan yang berpusat pada anak mencakup keselamatan, perlindungan data dan privasi, non-diskriminasi dan keadilan, transparansi dan akuntabilitas, kepentingan terbaik anak, inklusi, serta lingkungan yang mempersiapkan anak menghadapi AI. Semua itu bukan daftar periksa yang bisa dipasang begitu saja. Itu adalah pertanyaan yang dapat dipakai pemilik situs untuk menilai fitur yang diusulkan sebelum hadir di produksi.

Batas yang jelas juga menghentikan tim memakai label kabur. “Ramah keluarga” tidak memberi tahu engineer apakah anak berusia 10 tahun boleh menggunakan sistem rekomendasi. “Untuk pelajar” tidak menjelaskan apakah layanan dirancang untuk usia 12 tahun, 16 tahun, pelajar dewasa, atau semuanya. “Audiens umum” tidak membebaskan tim dari kewajiban memutuskan apa yang akan dilakukan ketika mereka mengetahui seorang anak kecil memakai fitur itu. Kebijakan yang presisi lebih mudah diterapkan dan lebih mudah dijelaskan.

Pertanyaan bisnisnya bukan apakah chatbot tampak tidak berbahaya. Pertanyaannya adalah apakah perusahaan dapat menjelaskan dengan bahasa biasa siapa yang boleh menggunakannya, apa yang diterimanya, apa yang dilakukannya terhadap informasi kaum muda, dan ke mana pengguna muda dapat pergi saat fitur tidak tersedia. Bila jawaban tersebut belum ada, peluncuran belum siap.

Program hibah OpenAI secara eksplisit berkaitan dengan kaum muda berusia 13 hingga 17 tahun. Topik risetnya mencakup perkembangan dan kesejahteraan emosional, perkembangan sosial dan relasi, pola penggunaan menurut usia dan konteks, serta mitigasi seperti pengamanan, desain sesuai usia, literasi AI, dan dukungan orang tua atau pendidik. Program itu meminta kerja independen dan menjelaskan riset yang diusulkan, bukan temuan akhir. Perbedaan ini penting. Situs web tidak seharusnya mengutip pengumuman tersebut sebagai bukti bahwa fitur chat tertentu merugikan atau menguntungkan remaja. Pengumuman itu adalah bukti bahwa pertanyaan penting masih terbuka dan bahwa usia serta konteks patut mendapat perhatian khusus.

Pengumuman itu juga menyampaikan satu poin editorial yang berguna: “pengguna muda” terlalu luas untuk memandu sebuah produk. Anak pra-remaja, anak berusia 13 tahun, dan remaja berusia 17 tahun mungkin sama-sama belum dewasa, tetapi tim tidak boleh menganggap kebutuhan, izin, atau alasan mereka memakai layanan itu identik. Ambang hukum dalam materi FTC adalah di bawah 13 tahun. Pengumuman hibah OpenAI berfokus pada usia 13 hingga 17 tahun. Cakupannya berbeda. Satu kotak centang bertuliskan “Saya berusia di atas 13 tahun” tidak dapat menggantikan penalaran yang harus dilakukan bisnis.

Bagi situs kecil, keputusan segera dapat bersifat sederhana. Toko daring yang menjual produk perawatan kulit dewasa dapat memutuskan bahwa pencari produk berbasis AI hanya untuk orang dewasa dan menampilkan katalog standar kepada yang lain. Bisnis bimbingan belajar yang menerima remaja dapat memutuskan bahwa asisten jawabannya hanya menangani pertanyaan navigasi kursus, tidak mengumpulkan detail sensitif, dan mengalihkan pertanyaan rumit kepada kontak manusia. Penerbit yang menyasar kaum muda dapat memutuskan bahwa rekomendasi hanya memakai konteks halaman saat ini, bukan profil perilaku tingkat akun. Setiap pilihan perlu ditulis sebagai kalimat yang dapat dipahami pengembang, pekerja dukungan pelanggan, dan pengunjung.

Batas usia tidak boleh berubah menjadi pertunjukan kepastian. Tanggal lahir atau kelompok usia yang dilaporkan sendiri memiliki keterbatasan. Pendekatan itu dapat tepat dalam beberapa situasi dan tidak tepat dalam situasi lain. Poin operasional utamanya adalah konsistensi: tingkat kepastian usia yang dicari tim harus sebanding dengan fungsi layanan dan informasi yang dikumpulkannya. Situs tidak seharusnya meminta dokumen identitas hanya untuk menonaktifkan widget chat. Sebaliknya, situs juga tidak boleh mengundang anak ke pengalaman percakapan yang intensif data sambil berpura-pura bahwa penafian yang ambigu sudah menyelesaikan masalah.

Ketika pengguna berada di luar rentang usia yang diizinkan, alternatifnya penting. Penolakan kosong dapat mendorong seseorang ke mesin pencari, media sosial, atau formulir tanpa moderasi. Tawarkan jalur sederhana: jelajahi halaman, baca FAQ, hubungi dukungan pelanggan, tanyakan kepada orang tua atau guru bila sesuai, atau gunakan alat non-personalisasi yang batasnya jelas. Ini adalah desain layanan, bukan celah.

Pengumuman hibah itu juga menarik perhatian pada peran keluarga, sekolah, komunitas, dan penyedia teknologi. Usaha kecil tidak dapat mengendalikan setiap bagian dari lingkungan remaja. Namun ia dapat mengendalikan apakah situsnya sendiri mengasumsikan sistem percakapan harus menggantikan manusia, apakah sistem itu diizinkan meminta cerita pribadi, serta apakah staf mengetahui cara merespons ketika percakapan memberi tanda kesusahan atau risiko.

Batas yang hanya hidup di halaman syarat penggunaan akan gagal dalam pemakaian biasa. Pengunjung menemui aturan sebenarnya pada titik ketika fitur ditawarkan. Artinya, aturan itu membutuhkan perilaku antarmuka yang terlihat, kontrol backend, pengaturan vendor, dan proses dukungan yang saling sesuai.

Mulailah dengan inventaris. Daftarkan setiap permukaan berbantuan AI di situs, termasuk asisten chat dan sistem rekomendasi yang jelas terlihat, juga pencarian otomatis, hasil kuis, perutean layanan pelanggan, deskripsi produk yang dihasilkan, analisis gambar, serta alat pihak ketiga yang disematkan. Untuk setiap permukaan, tuliskan apa yang dapat dimasukkan pengunjung, apa yang diamati sistem secara otomatis, apa yang keluar dari situs, apa yang disimpan, dan siapa yang dapat melihatnya. Jangan menerima pernyataan luas pemasok bahwa layanannya “berfokus pada privasi” sebagai pengganti peta ini. Panduan FTC menyatakan operator layanan yang ditujukan kepada anak harus menanyakan praktik pengumpulan informasi pihak ketiga yang dapat mengumpulkan data melalui layanan mereka. Bahkan saat fitur tidak diarahkan kepada anak, disiplin tersebut tetap berguna.

Selanjutnya, pilih pola akses. Ada beberapa pola yang dapat dijalankan, bergantung pada situs dan audiensnya:

• Fitur AI khusus dewasa: Halaman tetap dapat diakses, tetapi chat dan rekomendasi yang dipersonalisasi tidak ditawarkan di bawah ambang yang dinyatakan. Alternatifnya adalah navigasi biasa, pencarian, atau kontak staf.
• Fitur berbatas yang dapat diakses remaja: Remaja dapat memakai fungsi yang didefinisikan sempit, seperti menemukan halaman kursus publik atau memilih kategori produk. Saran pribadi berbentuk bebas, riwayat percakapan tersimpan, dan pemrofilan sensitif dikecualikan.
• Layanan yang ditujukan kepada anak dengan desain kepatuhan tersendiri: Bisnis memperlakukan layanan sebagai ditujukan kepada anak dan merencanakan kewajiban persetujuan, pemberitahuan, data, keamanan, retensi, serta pihak ketiga yang berlaku. Ini bukan pilihan yang dipilih secara sembarangan.
• Tanpa interaksi AI untuk audiens yang tidak pasti: Situs melayani publik luas dan tidak dapat mengonfigurasi fitur secara meyakinkan bagi pengunjung muda. Situs mempertahankan halaman yang ditulis manusia dan pencarian konvensional.

Pola yang tepat bergantung pada fakta, bukan pada pola mana yang terdengar paling modern. Bisnis juga harus memberi tahu timnya apa yang tidak dilakukan. Jika fitur chat bukan layanan kesehatan, hukum, penilaian pendidikan, atau layanan krisis, hal itu perlu jelas dalam cakupan dan aturan responsnya. Jika fitur tidak dapat menerima gambar, pesan suara, detail kontak, atau informasi akun dari pengguna muda, buat desain masukan menegakkan pilihan tersebut sejauh mungkin.

Jalur manusia perlu dirancang dengan kehati-hatian yang sama. “Hubungi kami” tidak cukup bila formulir meminta cerita rinci dan mengirimkannya ke alur kerja yang sama-sama tidak ditinjau. Berikan staf panduan eskalasi singkat: apa yang boleh dijawab fitur, apa yang tidak boleh dijawabnya, data apa yang tidak boleh diminta, dan kapan percakapan harus dipindahkan ke kanal dukungan orang dewasa atau layanan yang berkualifikasi. Tujuannya bukan membuat karyawan mendiagnosis pengunjung. Tujuannya menghentikan antarmuka otomatis menjadi satu-satunya pendengar yang tampak tersedia.

Chat berbeda dari menu karena mengundang bahasa. Pengunjung dapat mengajukan pertanyaan produk sederhana, lalu secara sukarela menyampaikan nama lengkap, foto, lokasi, masalah keluarga, atau kekhawatiran yang tidak berkaitan dengan bisnis. Pengguna muda mungkin tidak membedakan bot dukungan perusahaan dari manusia, kotak pencarian, tutor, atau teman bicara. Panduan UNICEF yang diperbarui secara khusus mengidentifikasi pendamping AI yang dipakai anak sebagai salah satu perkembangan yang dibahasnya. Itu sudah cukup menjadi alasan bagi bisnis untuk memeriksa nada dan cakupan antarmuka percakapannya sendiri.

Jangan membuat bot terdengar seperti orang kepercayaan bila ia adalah alat penjualan atau dukungan. Hindari prompt yang mengundang pengungkapan pribadi hanya demi menaikkan keterlibatan. Peritel furnitur dapat mengatakan, “Sebutkan ukuran ruangan dan gaya yang Anda sukai,” alih-alih “Ceritakan tentang rumah Anda dan hal yang membuat Anda tertekan.” Situs perlengkapan sekolah dapat menanyakan tingkat kelas atau mata pelajaran hanya bila informasi itu diperlukan untuk hasil yang dinyatakan, dan dapat menawarkan penelusuran tanpa akun. Penahanan diri yang sama berlaku bagi pertanyaan lanjutan yang dihasilkan sistem.

Tim perlu menetapkan batas dalam spesifikasi percakapan sebelum menetapkan kepribadian. Tentukan topik yang diizinkan, topik yang dilarang, permintaan data yang terlarang, dan jalur respons. Jika asisten tidak dapat memberi jawaban andal, ia perlu menyatakannya dan mengarahkan pengguna ke halaman relevan atau kanal manusia. Asisten tidak boleh mengarang kewenangan, mensimulasikan hubungan profesional, atau mendorong pengunjung merahasiakan percakapan sensitif.

Sistem rekomendasi memerlukan perhatian serupa, meski tidak berbicara. “Orang seperti Anda” dapat menjadi isyarat sosial yang kuat. Sistem yang memeringkat konten berdasarkan perilaku teramati dapat membuat asumsi yang tidak dapat dilihat atau dikoreksi pengunjung. Panduan UNICEF mencakup transparansi, keterjelasan, akuntabilitas, keadilan, dan non-diskriminasi. Bagi situs kecil, terjemahan praktisnya sederhana: mampu menjelaskan pada tingkat yang masuk akal mengapa seseorang melihat rekomendasi, menyediakan alternatif non-personalisasi, dan memungkinkan pengguna mengubah atau menghentikan pengaturan rekomendasi.

Definisi FTC tentang informasi pribadi mencakup pengenal persisten yang mengenali pengguna dari waktu ke waktu dan lintas situs web atau layanan daring. Karena itu, tim perlu mengajukan pertanyaan langsung kepada vendor analitik dan rekomendasi. Apakah alat memakai cookie atau pengenal lain? Apakah data digabungkan lintas pelanggan atau layanan? Apakah fitur dilatih menggunakan prompt? Bisakah log dinonaktifkan, dipersingkat, atau diisolasi? Subprosesor mana yang menerima data? Jawaban vendor perlu masuk ke catatan peluncuran, berikut tanggal pemeriksaannya.

“Dipersonalisasi” tidak boleh menjadi alasan untuk mengumpulkan kisah pengunjung muda. Untuk banyak situs kecil, rekomendasi berbasis konteks sudah cukup. Sarankan aksesori yang sesuai karena cocok dengan barang yang sedang dilihat. Tampilkan artikel terkait karena memiliki tag topik sama. Biarkan orang memilih minat pada saat itu tanpa membentuk catatan perilaku yang bertahan lama. Pilihan ini dapat lebih tidak mengganggu dan lebih mudah dijelaskan.

Batas usia terbaik terlihat, singkat, dan terhubung pada konsekuensi nyata. Ia tidak memerlukan pertunjukan hukum. Di pintu masuk chat atau rekomendasi yang dipersonalisasi, nyatakan untuk siapa fitur dibuat dan apa yang terjadi jika pengguna berada di luar kelompok itu. Bila situs meminta informasi usia, jelaskan alasannya dan jangan memakai kembali jawaban itu untuk pemasaran yang tidak berkaitan secara bawaan.

Antarmuka sederhana mungkin menghadirkan dua jalur: “Lanjut ke situs umum” dan “Gunakan asisten pelanggan dewasa.” Fitur yang dapat diakses remaja mungkin sebaliknya menyatakan bahwa ia membantu menemukan informasi publik dan tidak menggantikan guru, orang tua, profesional, atau layanan darurat. Kata-kata persisnya harus sesuai dengan layanan yang benar-benar tersedia. Menjanjikan perlindungan yang tidak diberikan konfigurasi vendor lebih buruk daripada menyatakan lebih sedikit.

Backend harus menegakkan keputusan yang sama. Jika pengguna menyatakan atau diketahui berada di bawah ambang fitur, jangan hanya menyembunyikan tombol sementara endpoint masih dapat diakses melalui halaman akun, skrip sematan, atau tampilan seluler. Terapkan aturan pada kelayakan akun, pembuatan sesi, panggilan API, riwayat tersimpan, dan pembuatan profil rekomendasi. Periksa perjalanan pengguna yang keluar akun dan masuk akun secara terpisah. Periksa pengalaman ketika pengguna mengubah tanggal lahir, menghapus cookie, membuka jendela peramban privat, atau mencapai fitur melalui tautan bersama.

Pisahkan data usia dari dorongan untuk membuat profil. Dalam beberapa kasus, bisnis mungkin hanya memerlukan hasil kasar seperti “layak” atau “tidak layak”, bukan tanggal lahir lengkap yang disimpan tanpa batas waktu. Minimalisasi data adalah kebiasaan praktis: kumpulkan informasi paling sedikit yang dapat menjalankan desain pilihan, simpan hanya untuk tujuan yang dinyatakan, lalu tinjau apakah masih diperlukan. Panduan FTC mengharuskan operator yang tercakup menyimpan informasi pribadi anak hanya selama diperlukan secara wajar untuk tujuan pengumpulan dan menghapusnya dengan langkah-langkah yang wajar. Bahkan di luar cakupan COPPA, batas retensi membuat fitur AI lebih mudah dikelola.

Pemberitahuan privasi, pusat bantuan, kontrak vendor, dan antarmuka pengguna tidak boleh saling bertentangan. Seseorang di tim dukungan harus mampu menjawab: Apakah riwayat chat disimpan? Bisakah dihapus? Apakah dipakai untuk memperbaiki sistem? Apakah rekomendasi didasarkan pada kunjungan saat ini, akun, atau keduanya? Apa yang terjadi jika orang tua meminta akses atau penghapusan? Tim mungkin memerlukan nasihat hukum untuk yurisdiksi dan produk terkait, tetapi tidak memerlukan nasihat hukum untuk menyadari bahwa pertanyaan tersebut membutuhkan penanggung jawab.

Aksesibilitas juga termasuk di sini. Prompt usia yang tidak dapat dibaca pembaca layar, penolakan yang hilang terlalu cepat, atau alternatif yang hanya berfungsi dengan mouse bukanlah batas yang selesai dibuat. UNICEF memasukkan inklusi di antara persyaratan AI yang berpusat pada anak. Uji jalur ini dengan kehati-hatian yang sama seperti formulir checkout atau pemesanan.

Pengujian sebelum peluncuran perlu mencakup lebih dari sekadar apakah chatbot menghasilkan teks yang sopan. Risiko kerap berada pada sistem di sekitar jawaban: kolom formulir, transkrip yang tersimpan, pelacak sematan, profil rekomendasi, pengalihan dukungan, atau alur kerja staf.

Buat kumpulan uji kecil yang mencerminkan batas yang dipilih tim. Gunakan prompt fiktif dan tidak sensitif. Cobalah pengunjung yang mengidentifikasi diri di bawah ambang, pengunjung berusia 13 hingga 17 tahun saat audiens tersebut didukung, dan orang dewasa. Uji pengunjung yang berupaya memasukkan nomor telepon, alamat, nama sekolah, gambar, berkas audio, atau pernyataan krisis pribadi. Uji apakah asisten meminta detail tambahan, apakah aplikasi menyimpan percakapan, dan apakah jalur alternatif yang tepat muncul. Catat hasil serta orang yang bertanggung jawab memperbaiki kegagalan.

Untuk rekomendasi, uji situs dengan peramban baru, akun yang kembali, dan akun yang telah memilih keluar dari personalisasi. Periksa apakah sistem masih membuat klaim personalisasi setelah pengguna memilih keluar, apakah akun yang dibatasi bagi anak menerima modul intensif data yang sama, dan apakah tautan penjelasan menggambarkan perilaku sebenarnya. Jika tim tidak dapat memeriksa keluaran vendor atau mengendalikan pengumpulannya, itu alasan untuk mempertimbangkan ulang integrasi.

Pengumuman Astra dari OpenAI membahas kemampuan keamanan siber frontier, bukan perkembangan anak, tetapi menawarkan pelajaran operasional yang relevan. Perusahaan itu menjelaskan penundaan bagian-bagian pengembangan dan rilis saat memperkuat serta menguji perlindungan, dan menjelaskan pengamanan berlapis, pemantauan, serta pembatasan akses tingkat lanjut. Usaha kecil tidak menjalankan program keselamatan model frontier. Namun usaha kecil dapat mengadopsi disiplin dasarnya: kemampuan tidak boleh melampaui kontrol, dan fitur dapat ditahan sementara tim menguji syarat yang diperlukan untuk rilis.

Pengujian memerlukan aturan berhenti. Tentukan sebelumnya hal yang akan menghalangi peluncuran. Contohnya mencakup ketidakmampuan mencegah pengguna terbatas membuka sesi chat, vendor yang tidak dapat menjelaskan retensi data, bot yang meminta detail pribadi tidak perlu, tidak adanya respons orang tua atau dukungan yang dapat dijalankan, atau analitik yang terus berjalan setelah pembatasan yang seharusnya diterapkan. Respons yang tepat terhadap kontrol yang gagal adalah menonaktifkan atau mempersempit fitur, bukan menulis ulang kalimat yang menenangkan.

Tinjau juga setelah peluncuran. Log dapat memperlihatkan pola seperti upaya berulang mengakses fitur terbatas, pertanyaan yang tidak tertangani, atau celah eskalasi staf. Tinjau sinyal operasional agregat tanpa mengubah peninjauan itu menjadi pengawasan terhadap pengguna muda. Saat produk, model, plugin, pengaturan privasi, atau kontrak vendor berubah, jalankan lagi pengujian batas. Fitur yang diluncurkan dengan aman tidak otomatis tetap aman setelah integrasi baru ditambahkan.

Batas usia melintasi berbagai peran. Jika semua orang memilikinya, tidak ada yang benar-benar bertanggung jawab. Tim ramping dapat menetapkan tanggung jawab yang jelas tanpa membentuk komite baru. Pemilik situs memutuskan audiens yang dituju dan tujuan bisnis. Pengembang menerapkan kontrol akses dan data. Penasihat privasi atau hukum meninjau kewajiban yang berlaku. Pemimpin dukungan pelanggan memiliki bahasa pengalihan. Pemimpin pemasaran memastikan kampanye tidak mengarahkan anak-anak ke fitur yang dibatasi produk. Pengelola vendor menyimpan catatan syarat dan pengaturan pihak ketiga.

Masukkan hal ini ke dalam catatan peluncuran satu halaman. Isinya dapat mencakup nama fitur, tujuan, kelompok usia sasaran, pengguna yang tidak didukung, masukan yang diizinkan, masukan yang dilarang, data yang dikumpulkan, data yang dikirim ke vendor, pengaturan retensi, logika rekomendasi, teks pengungkapan, jalur alternatif, pemilik eskalasi, tanggal pengujian, dan tanggal tinjauan. Ini bukan birokrasi demi birokrasi. Catatan itu memberi tim satu versi bersama mengenai layanan yang sungguh mereka operasikan.

Catatan tersebut harus membedakan kewajiban hukum dari pilihan produk sukarela. Sebagai contoh, materi COPPA FTC menjelaskan kewajiban bagi operator yang tercakup, termasuk kebijakan privasi yang jelas, pemberitahuan langsung dan persetujuan orang tua yang dapat diverifikasi dalam keadaan relevan, hak akses dan penghapusan bagi orang tua, langkah keamanan, batas retensi, serta pembatasan untuk tidak menjadikan partisipasi bergantung pada informasi yang tidak perlu. Bisnis perlu mencari nasihat yang berkualifikasi ketika layanan, audiens, atau geografinya mungkin memicu kewajiban tertentu. Bisnis tidak boleh mengklaim bahwa kebijakan internal yang luas membuatnya patuh di semua tempat.

Panduan UNESCO untuk Generative AI dalam Pendidikan dan Riset memberi kerangka kepentingan publik yang lebih luas bagi tim yang bekerja di sekitar kaum muda. Panduan itu menyerukan batas usia untuk percakapan mandiri dengan platform generative AI serta perlindungan data dan privasi yang kuat. Bagi situs kecil, prinsip seperti ini berguna hanya ketika mengubah keputusan konkret. Proporsionalitas dapat berarti memilih daftar konten terkait ketimbang profil perilaku. Pengawasan manusia dapat berarti memberi staf wewenang menghentikan bot. Akuntabilitas dapat berarti mencatat siapa yang menyetujui pengaturan vendor dan siapa yang memeriksanya pada kuartal berikutnya.

Uji tuntas vendor membutuhkan pertanyaan yang lugas, bukan jaminan yang kabur. Tanyakan data apa yang diterima alat dari peramban dan server, apakah prompt atau peristiwa disimpan, apakah konten dipakai untuk pelatihan, bagaimana permintaan penghapusan bekerja, kontrol keamanan apa yang berlaku, perusahaan lain mana yang memproses data, dan konfigurasi terkait usia apa yang tersedia. Tanyakan apakah sistem dapat dibatasi menurut jenis akun atau konteks. Simpan jawaban dan kontrak di tempat yang tetap ada saat staf berganti. Jika vendor tidak dapat menjawab pertanyaan yang menjadi inti batas, bisnis telah mengetahui sesuatu yang penting sebelum mengekspos pengunjung kepada fitur tersebut.

Keputusan memakai chat AI atau rekomendasi seharusnya dimulai dengan satu kalimat, bukan skrip: “Fitur ini untuk [audiens yang didefinisikan], melakukan [tugas yang didefinisikan], menerima [data yang didefinisikan], dan orang di luar batas itu dapat [alternatif yang didefinisikan].” Jika kalimat tersebut sulit ditulis, fitur terlalu kabur untuk diluncurkan.

Gunakan standar berikut sebelum mengaktifkannya:

• Sebutkan audiens dan batas usia untuk fitur tertentu, bukan hanya untuk situs secara keseluruhan.
• Petakan setiap masukan, pengenal, transkrip, peristiwa, vendor, dan pengaturan retensi yang terlibat dalam perjalanan pengguna.
• Pilih desain dengan intensitas data paling rendah yang tetap dapat menjalankan tugas yang dinyatakan.
• Tampilkan batas pada titik penggunaan dan tegakkan di backend, akun, sesi, serta versi yang disematkan.
• Berikan jalur non-AI yang berguna kepada pengguna yang dibatasi atau tidak pasti, bukan jalan buntu.
• Tetapkan aturan percakapan yang menghindari pengungkapan pribadi tidak perlu dan menentukan eskalasi kepada manusia.
• Sediakan jalur rekomendasi non-personalisasi dan penjelasan yang dapat dipahami tentang perilaku rekomendasi.
• Uji jalur anak, remaja, dewasa, keluar akun, masuk akun, memilih keluar, dan kesalahan dengan data fiktif.
• Dokumentasikan kepemilikan, jawaban vendor, persetujuan, dan tanggal tinjauan yang dijadwalkan.
• Hentikan fitur ketika tim tidak dapat memverifikasi kontrol yang menjadi sandaran batas yang dipilih.

Hibah riset OpenAI pada September adalah pengingat agar tim produk menolak cerita sederhana tentang remaja dan generative AI. Pertanyaan yang relevan meliputi usia, tahap perkembangan, tujuan, budaya, dukungan, pengamanan, dan desain. Usaha kecil tidak dapat menyelesaikan agenda riset itu. Namun usaha kecil dapat menghindari penambahan kebingungan di situsnya sendiri.

Batas usia yang jelas memberi tim cara untuk membuat pilihan sebelum chatbot menjadi pintu depan bawaan atau sistem rekomendasi berubah menjadi infrastruktur tak terlihat. Ia mengubah aspirasi luas untuk “memakai AI secara bertanggung jawab” menjadi keputusan yang dapat ditemui pengunjung dan dipertahankan staf. Itu adalah titik awal yang lebih kokoh daripada meluncurkan terlebih dahulu lalu mencoba menemukan audiens sesudahnya.

Sources: https://openai.com/index/teen-development-research-grants/ | https://openai.com/index/path-to-astra/ | https://www.unicef.org/innocenti/reports/policy-guidance-ai-children | https://unesdoc.unesco.org/ark:/48223/pf0000386693 | https://www.ftc.gov/business-guidance/resources/complying-coppa-frequently-asked-questions