Yapay zeka üzerine kurulu bir gelecek için gençleri güçlendirmek ve desteklemek
Yazan: Courtney Gregorie / Dijital Güvenlik Lideri
Bugün, yapay zeka çağında çocuk refahı konusu üzerine etkili bir fikir alış verişinde bulunmak üzere Vatikan’da birçok liderle bir araya gelme fırsatını buldum. Birleşmiş Milletler Genel Kurulu’nda yapılan görüşmelerin devamı niteliğindeki bu konular dünyanın her yerinde, ebeveynlerden politikacılara ve doktorlara kadar herkesin gündeminde.
Microsoft olarak amacımız, gençlerin teknolojiyi güvenli, bilinçli ve sosyal, eğitimsel ve ekonomik fırsatlar doğrultusunda kullanmalarını sağlamak. Bu da düzenlemelerle teşvik edilen yeni adımlar atmak anlamına geliyor. Örneğin, Birleşik Krallık’taki Xbox kullanıcıları için yaş doğrulama önlemleri almak; yapay zeka çağında güven inşa etmek için sorumlu yapay zeka & çocukların çevrimiçi güvenliği ve gizliliği konusunda uzun süredir devam eden taahhütlerimizi uygulamaya almak gibi. Bugün, gençlerin bakış açılarıyla ilgili yeni araştırmalar paylaşıyor; gençlerin sesini yükseltmek için AI Futures Youth Council’i duyuruyor ve ailelerin dijital dünyada güvenle yol almasına yardımcı olacak politika önerileri sunuyoruz.
Gençlerin Sesini Merkeze Almak: AI Futures Youth Council ve Yeni Yaş Doğrulama Araştırması
2017’de Microsoft, çevrimiçi riskler hakkındaki deneyimlerini ve algılarını doğrudan gençlerden dinleyebileceğimiz ilk “Council for Digital Good” ile sektöre öncülük etti. 2025’te, yapay zeka dünyamızı ve onların geleceğini şekillendirirken, gençlerin sesini yeniden merkeze almamız gerekiyor. Asya-Pasifik bölgesindeki gençlerle birlikte “gençler için, gençler tarafından” hazırlanacak ilk yapay zeka sohbet robotları rehberini geliştiriyoruz. Bugün, ABD ve Avrupa’dan gençleri bir araya getirecek ilk “AI Futures Youth Council”in yakında başlatılacağını duyurmaktan memnuniyet duyuyorum. Başvuru süreci hakkında yakında daha fazla bilgi paylaşacağız.
Gençlere olumlu ve verimli çevrimiçi deneyimler sunmanın kritik bir ön koşulu, hangi kullanıcıların genç olduğunu anlamak. Dünyada çevrimiçi yaş doğrulama tartışmaları hız kesmeden devam ediyor. Geçtiğimiz yıl boyunca CIPL ve WeProtect Global Alliance ile birlikte, temel gizlilik ve bilgiye erişim haklarıyla uyumlu gelişmiş yaş doğrulamanın nasıl sağlanabileceğini araştırdık. Her güvenlik müdahalesinde olduğu gibi, yeni adımlar atarken orantılı ve düşünceli olmayı hedefliyoruz. Bu nedenle, öncelikle oyun alanına odaklandık ki bu da en genç kullanıcılarımıza karşı sorumluluklarımızı ve oyuncu güvenliğine olan bağlılığımızı yansıtıyor.
Stratejimizi doğru yansıtmak amacıyla Praesidio Safeguarding ile ortaklık kurarak Birleşik Krallık, Gana ve Endonezya’daki gençlerin yaş doğrulama yaklaşımlarına ilişkin görüşlerini daha iyi anlamaya çalıştık. Bulgular, şeffaflık, seçim ve güvenin önemini ortaya koydu. Gençler, verilerinin nasıl kullanıldığını açıkça bilmek istiyor; resmi yaş kanıtı eksikliğinde dışlanma endişesi taşıyor ve biyometrik ve davranışsal verilerin kullanımına ilişkin farklı rahatlık seviyeleri gösteriyor. Ebeveyn katılımını değerli bulan gençler, olgunlaştıkça bağımsızlık ve gizlilik ihtiyacını da vurguluyor. Sonuçlar ayrıca coğrafi farklılıkları da ortaya koyuyor. Örneğin, Gana’daki gençler genellikle cihazlarını aileleriyle paylaşıyor ve hatta aynı hesabı kullanabiliyor—bu da teknoloji yığınında çok katmanlı, nüanslı küresel yaklaşımlara olan ihtiyacı gösteriyor.
Bu içgörüler, orantılılık ilkesinin—önlemleri gerçek risklerle eşleştirmenin—gençleri çevrimiçi ortamda güçlendirmek için kritik olduğunu gösteriyor. Ayrıca, özellikle cihaz ve hesap paylaşımının yaygın olduğu küresel bağlamlarda kapsayıcı, esnek ve gençlerin özerkliğine saygılı yaş doğrulama modellerine olan ihtiyacı vurguluyor. Çözümlerimizin çocukların, ailelerin ve toplumun ihtiyaç ve beklentileriyle birlikte gelişmesini sağlamak için sürekli diyalog ve yenilik taahhüdümüzü sürdürüyoruz.
Politika Önerilerimiz: Gençleri Teknolojiyi Güvenle Kullanma Konusunda Güçlendirin
Teknolojinin gençleri riske atmak yerine onları güçlendirmesi gerektiğine inanıyoruz. Çevrimiçi hizmetlerin çeşitliliği göz önüne alındığında, gençleri koruyacak tek bir “dijital emniyet kemeri” olmadığını hatırlamak önemli. Bu nedenle, politika yapıcılar, düzenleyiciler ve uzmanlar bu konuları tartışmaya devam ederken aşağıdaki önerileri sunuyoruz:
- Genel erişim yasaklarından kaçının
Yaş doğrulama gereklilikleri, yalnızca yaşa özel içerik barındıran (örneğin pornografi) platformlar gibi istisnai durumlar dışında gençlerin hizmetlere tam erişimini engellememeli. Bunun yerine yaş doğrulama; hizmet düzeyinde, riskli tasarım özelliklerine odaklanmalı ve çocuklara özel deneyimler sunmalı.
- En yüksek risklere odaklanın
Çocuklara zarar verdiği belgelenmiş içerikler ve özellikler önceliklendirilmeli. Hizmet sağlayıcılar, platformlarında çocuklara yönelik riskleri değerlendirmek ve azaltmak için adımlar atmalı, ancak bunu yaparken de belgeleme gerekliliklerinin veya uyumluluk yükümlülüklerinin güvenliği istemeden zayıflatmadığından emin olmalılar. Açık kriterlere dayanan ve birlikte çalışabilir standartlarla desteklenen risk temelli ve orantılı bir yaklaşım, yaş doğrulamanın gerçekten ihtiyaç duyulan alanlarda uygulanmasını sağlayabiliyor ve gereksiz engellerin ortaya çıkmasını önlüyor. Yüksek riskli hizmet sağlayıcılarının yaş doğrulama sorumluluğunu üstlenmesi gerekiyor.
- AI arkadaşlarında güvenlik önlemlerini güçlendirin
Yakın zamanda yaşanan üzücü olaylar, özellikle gençlerin kullanabileceği AI arkadaşlarının geliştirilmesinde ekstra özen gerektiğini gösterdi. Microsoft olarak AI’ı güçlendirme amacıyla geliştiriyoruz ancak California ve Avustralya’daki gibi intihar, kendine zarar verme, cinsel veya şiddet içeren içeriklerle ilgili yanlış kullanım riskini azaltan önlemleri destekliyoruz. Bu alanda gençlerin maruz kalabileceği riskleri daha iyi anlamak ve minimize etmek amacıyla araştırmacılarla ve uzmanlarla iş birliği içinde çalışmaya devam ediyoruz.
- Yaşa uygun tasarımı teşvik edin
Çocukları çevrimiçi hizmetlerden tamamen uzaklaştırmak çözüm değil, ancak “yaşa uygun” bir deneyimin ne anlama geldiği duruma göre değişiyor. Çocuk güvenliği için esnek şekilde uygulanabilen, kanıta dayalı düzenleyici rehberlik tarafından yönlendirilen bir bakım yükümlülüğü yaklaşımını destekliyoruz. Çocuk güvenliği ve çocuk haklarını sosyal medya dışındaki çeşitli hizmetlerde de nasıl geliştirebileceğimizi anlamak için sürekli araştırmaya ve uzman görüşüne ihtiyaç duyuluyor.
- Tüm kullanıcıların gizliliğini ve güvenliğini koruyun
Yaş doğrulama gereksinimlerinin uyarlanması, veri işlemeye orantılı yaklaşımlar geliştirilmesine yardımcı olacak. Uygulama mağazaları üzerinden yaş doğrulaması yapılmasına dair mevcut öneriler, hassas bilgilerin toplanması ve gereksiz yaş verilerinin birçok farklı hizmetle paylaşılması nedeniyle ciddi gizlilik riskleri yaratabiliyor; üstelik yasa koyucuların çözmek istediği sorunları da tam anlamıyla çözmüyor. ABD’de federal gizlilik yasasını desteklemeye devam ediyor ve yaş doğrulama sağlayıcıları için standartlar ve sertifikasyonlar geliştirilmesine yönelik küresel çabaları teşvik ediyoruz. Güvenilir kimlik bilgisi paylaşımı ise, devlet tarafından verilen kimlikler ve dijital cüzdan tabanlı modeller gibi, karşılıklı gizliliği koruyan yeni dijital kimlik ekosistemleri aracılığıyla giderek daha yaygın hale geliyor.Top of Form
Bottom of Form
- Ebeveynleri sıkboğaz etmek yerine destekleyin
Araştırmamız, gençlerin çevrimiçi riskleri ebeveynlerinden daha iyi fark ettiğini ancak yine de en çok yardım için ebeveynlerine başvurduğunu gösteriyor. Ebeveynler bildirim bombardımanına tutulmamalı; bunun yerine aile güvenliği araçları konusunda bilgilendirilmeli ve desteklenmeli.
- Çok paydaşlı iş birliğini teşvik edin
Gençlerin seslerinin ve perspektiflerinin görünür kılınması kadar, düzenleyicilerle endüstri paydaşlarının sivil toplumla etkileşim içinde olması ve çözüm geliştirmek için iş birliği içinde çalışması da önemli. Yeni çocuk güvenliği düzenlemeleri yürürlüğe girerken, topluluklardan geri bildirim almak ve potansiyel hak ihlallerini anlamak hayati önem taşıyor. Tüm kullanıcıların çevrimiçi deneyimlerinin neden değiştiğini anlamaları için kamusal eğitime ihtiyacı olacak.
Microsoft olarak, özellikle yeni konseyimizle birlikte öğrenmeye, dinlemeye ve iş birliğine devam edeceğiz. İç görülerimizi paylaşmayı sabırsızlıkla bekliyoruz.