Ofcom, teknoloji firmalarına, kullanıcıların oluşturduğu chatbotların gerçek veya hayali kişileri taklit etmelerinin, İngiltere’nin yeni dijital yasalarıyla çelişebileceği konusunda uyarı yaptı. Bu açıklama, geçtiğimiz günlerde, Character.AI platformunda bazı kullanıcıların, Brianna Ghey ve Molly Russell gibi gerçek kişileri taklit eden avatarlar oluşturduğunun ortaya çıkmasının ardından yapıldı.
Yeni Online Güvenlik Yasası Kapsamında
Ofcom, kullanıcılar tarafından oluşturulan chatbotların içeriklerinin, Birleşik Krallık’ın Online Safety Act (Çevrimiçi Güvenlik Yasası) çerçevesinde değerlendirileceğini vurguladı. Bu yasaya göre, gerçek veya hayali kişilerin taklit eden chatbot içerikleri, ilgili platformların sorumluluğundadır.
Bu durum, yalnızca chatbotların oluşturulmasını sağlayan hizmetlerle sınırlı kalmayıp, bu içeriklerin diğer kullanıcılarla paylaşıldığı sosyal medya ve mesajlaşma uygulamalarını da kapsıyor.
Platformlar İçin Ciddi Yükümlülükler
Bu yasal düzenleme, sosyal medya ve diğer platformların kullanıcı oluşturduğu içerikleri barındıran hizmetlerde büyük değişikliklere yol açacak.
Özellikle çocukları koruma amacıyla, yasaklı ve zararlı içeriklerin platformlardan aktif olarak kaldırılması gerekecek. Ayrıca, platformlar, kullanıcıların raporlama yapabilmesi için belirli sistemler kurmalı ve risk değerlendirmeleri yapmalıdır.
Brianna Ghey ve Molly Russell Vakaları
Brianna Ghey, geçen yıl öldürülen 16 yaşındaki bir kızdı. Molly Russell ise 2017’de hayatına son veren bir gençti. Bu iki olay, chatbots kullanıcıları tarafından taklit edilen kişilerin psikolojik etkilerini gündeme taşıdı. Bu tür içeriklerin oluşturulmasının, gençler ve aileler üzerinde olumsuz etkiler yaratabileceği konusunda endişeler arttı. Ofcom, bu tür “rahatsız edici olaylar” nedeniyle, chatbot içerikleriyle ilgili netlik sağlamak için açıklama yapma gereği duydu.
Yasal Yükümlülükler ve Potansiyel Cezalar
Eğer platformlar, bu tür içeriklerin önüne geçmezse, £18 milyonluk bir para cezasına veya şirketin küresel gelirinin %10’una kadar ceza alabilirler. Hatta aşırı durumlarda, web siteleri ve uygulamalar erişime kapatılabilir. Ofcom’un bu uyarısı, chatbot’ların internet üzerindeki güvenlik sorunlarını daha da büyütebileceği endişesini gündeme getirdi.
Character.AI’nin Yanıtı
Character.AI, platformunda güvenlik önlemlerini ciddiye aldığını ve kullanıcı şikayetlerine yönelik olarak avatarları proaktif şekilde denetlediğini belirtti. Şirket, Brianna Ghey ve Molly Russell’a ait chatbotların yanı sıra, Game of Thrones karakteriyle ilişkilendirilmiş bir avatarı da kaldırdı.
Gelecek Perspektifi
Online Safety Act, 2025 yılı itibariyle tam anlamıyla yürürlüğe girecek ve bu tür dijital içeriklerin denetimi için yeni standartlar getirecek. Ancak, mevcut yasaların bu teknolojilerle başa çıkmakta ne kadar yeterli olacağı hala tartışma konusu. Özellikle AI ve chatbot teknolojilerinin hızla gelişen yapısı, yasaların uygulanmasında güçlükler yaratabilir.
