OpenAI, ChatGPT kullanılarak herhangi bir yazılı içerik oluşturulup oluşturulmadığını tespit etmek için bir araç oluşturup test etti. Ancak Wall Street Journal, şirketin çeşitli endişeler nedeniyle aracı kamuoyuna açıklamaktan kaçındığını bildiriyor.
Araç, büyük dil modelinin (LLM) çıktısını nasıl yazdığına bir desen ekleyerek OpenAI’nin bunu ChatGPT’nin oluşturup oluşturmadığını tespit etmesini sağlar. Ancak desen insanlar tarafından fark edilmez ve bu nedenle LLM’nin kalitesini etkilemez. Dahili belgeler, aracın ChatGPT’nin çıktısını tespit etmede %99,9 etkili olduğunu söylüyor ancak OpenAI henüz bunu yayınlamadı.
Metin filigranı, ChatGPT tarafından yazılan içerikleri tespit etmek için oldukça etkili olsa da, Gemini AI veya Llama 3 gibi diğer LLM’lerin çıktılarıyla çalışamaz. Dahası, bu teknik kolayca atlatılabilir. Örneğin, ChatGPT’nin çıktısını Google Translate’e ekleyebilir, başka bir dile dönüştürebilir ve sonra tekrar İngilizce’ye çevirebilir, filigranı etkili bir şekilde kaldırabilirsiniz.
Hatta yapay zekadan kelimeler arasına benzersiz bir karakter, emoji veya kısa bir ifade eklemesini ve daha sonra bunları silmesini (örneğin Microsoft Word’ün Bul ve Değiştir işlevi aracılığıyla) istemek kadar basit bir şey bile olabilir veya başka bir LLM’den çıktının tamamını yeniden ifade etmesini istemek, tespit aracını bozmak için yeterli olabilir.
OpenAI’nin aracı piyasaya sürerken bir diğer itiraz noktası da, ana dili İngilizce olmayan yazarlara karşı önyargılı olabileceğini söylemesidir. Şirket daha önce geçen yıl bir üretken AI metin algılama aracı piyasaya sürmüştü. Yine de, düşük algılama oranı ve yanlış pozitifler sunma eğilimi nedeniyle OpenAI’nin fişini çekmesi yalnızca yedi ay sürdü. Hatta bir profesörün bir keresinde gönderilen tüm makalelerin yanlış bir şekilde AI tarafından üretilmiş olarak işaretlenmesi nedeniyle tüm bir sınıfta başarısız olmasına bile yol açtı.
Ayrıca, OpenAI müşteri tabanını da göz önünde bulunduruyor ve müşteri anketleri ChatGPT kullanıcılarının %69’unun aracın yapay zeka hilesi konusunda asılsız suçlamalara yol açacağına inandığını gösteriyor. Hatta %30’u OpenAI aracı devreye sokarsa muhtemelen rakip bir LLM’ye geçeceklerini söyledi. Şirket, ChatGPT dedektörünün geniş çaplı devreye sokulmasıyla ilgili başka bir sorunla karşı karşıya çünkü diğer kullanıcılar OpenAI’nin filigranlama tekniğini tersine mühendislikle uygulayabilir ve onu etkisiz hale getirmek için bir eklenti veya uygulama yayınlayabilir.
Bununla birlikte, OpenAI, AI tarafından üretilen içeriğin toplum için oluşturduğu riski anlıyor ve metin filigranlama tekniğine alternatifler arıyor. Ayrıca, dahili veriler, küresel olarak sorulan kişilerin %80’inin varlığını desteklediğini gösteren bir AI dedektörüne de talep var.
Tom’s Hardware’in en iyi haberlerini ve derinlemesine incelemelerini doğrudan gelen kutunuza alın.
OpenAI’nin metin filigranlama aracını ve dedektörünü yayınlayıp yayınlamayacağı hala bir soru. Ancak, AI geliştirmede önde gelen kuruluşlardan biri olarak, araçlarının sorumlu bir şekilde kullanılmasını sağlamak için adımlar atması gerektiğini de anlıyor. Kaynaklar, OpenAI’nin bu sonbahara kadar AI şeffaflığı konusunda kamuoyunu etkilemesi gerektiğini söylüyor. Bunun ne anlama geldiğini bilmiyoruz, ancak emin olduğumuz bir şey var: Okuduklarımızı eleştirel bir şekilde ele almalı ve gerçeği aldığımızdan emin olmalıyız.