OpenAI‘nin, yalnızca 15 saniyelik kayıtlı ses kullanarak herkesin sesinin ikna edici bir kopyasını oluşturabilen yeni aracı, tartışmalara yol açıyor.
Voice Engine ilk kez 2022 yılında geliştirildi ve ChatGPT yapay zeka aracının bir özelliği olarak kullanıldı. Bu araç, metinden konuşmaya özelliğine sahip ve insan sesini kusursuz bir şekilde taklit edebiliyor.
OpenAI, konuyla ilgili olarak yaptığı bir blog yazısında, toplumun bu yeni teknolojiye nasıl uyum sağlayabileceği konusunda bir diyalog başlatmayı umduklarını belirtti. Küçük ölçekli testlerin sonuçlarına göre, teknolojinin geniş çapta kullanılıp kullanılmayacağı ve nasıl kullanılacağına dair daha bilinçli kararlar alacaklarını ifade ettiler.
OpenAI, yapay zeka teknolojilerinin yeteneklerini ve sınırlamalarını anlamak için halkı eğitmeye çağrıda bulundu. Ayrıca, bireylerin seslerinin kullanımını korumaya yönelik politikaların araştırılması ve aldatıcı yapay zeka içeriğinin önlenmesi konusunda da çalışmalar yürütüyor.
OpenAI’nin aracı, teknik basitliği ve az miktarda orijinal ses ile ikna edici klonlar oluşturabilmesiyle dikkat çekerken, rakip şirketler arasında ElevenLabs gibi firmalar da bulunuyor. Bu şirketler, sadece birkaç dakikalık ses kaydı ile eksiksiz ses klonları oluşturabiliyorlar.
ElevenLabs, ses klonlarının tespit edilmesini ve siyasi adayların taklit edilmesini önlemek için güvenlik önlemleri alarak, teknolojinin olası kötüye kullanımlarına karşı tedbir almaya çalışıyor.
Yorum Yap