Yapay zeka teknolojilerinin hızla gelişmesi, özellikle Grok gibi platformlar üzerinden üretilen rıza dışı çıplak görüntülerin (deepfake) yaygınlaşmasıyla birlikte, kişilik haklarının korunması noktasında ciddi bir hukuksal kriz doğurmuştur. Bir bireyin görüntüsünün, rızası olmaksızın cinsel içerikli materyallere dönüştürülmesi; kişinin maddi ve manevi bütünlüğüne, onuruna ve toplum nezdindeki itibarına doğrudan bir saldırı niteliği taşımaktadır. Türk hukuk sistemi ve uluslararası normlar çerçevesinde bu durum, yalnızca özel hayatın gizliliğinin ihlali değil, aynı zamanda kişisel verilerin hukuka aykırı işlenmesi ve kişilik haklarının ağır bir biçimde gasbedilmesi olarak değerlendirilmektedir.
Hukuki sorumluluk boyutu ele alındığında, bu tür içerikleri üreten kullanıcıların yanı sıra, bu imkânı sağlayan ve denetim yükümlülüğünü yerine getirmeyen dijital platformların da “içerik sağlayıcı” veya “yer sağlayıcı” sıfatıyla sorumlu tutulabileceği görülmektedir. Özellikle Grok örneğinde olduğu gibi, yapay zeka aracının müstehcen içerik üretimine açık bir yapı sunması, platformun kusursuz sorumluluğu veya gözetim yükümlülüğünün ihlali tartışmalarını beraberinde getirmektedir. Mevcut yasal düzenlemelerin hızı, teknolojinin gelişimine her zaman yetişemese de güncel yargı kararları ve veri koruma otoritelerinin yaklaşımları, platformların bu tür suistimalleri önlemek adına daha sıkı filtreleme ve denetim mekanizmaları kurmak zorunda olduğunu vurgulamaktadır.
Sonuç olarak, yapay zeka tarafından üretilen sahte içeriklerin yarattığı tahribat, hukukun sadece cezalandırıcı değil, aynı zamanda önleyici bir rol üstlenmesini zorunlu kılmaktadır. Kişilik haklarını ihlal eden bu görsellerin dijital ortamda kalıcı izler bırakması, mağdurlar üzerinde onarılması güç manevi yaralar açarken, toplumun dijital gerçekliğe olan güvenini de sarsmaktadır. Bu bağlamda, hem ulusal hem de uluslararası düzeyde daha spesifik yasal düzenlemelerin yapılması ve teknoloji şirketlerinin etik sorumluluklarını hukuki bir zorunluluk olarak içselleştirmeleri, bireyin dijital dünyadaki varlığını korumak adına hayati bir önem taşımaktadır.
