ChatGPT'nin arkasında yüzlerce göz var: OpenAI, kullanıcı konuşmalarını okuyup modeli eğitmek için yüzlerce dışarıdan çalışan işe alıyor

动察 Beating AI hızlı haber: 404 Media'nın elde ettiği iç materyallere göre OpenAI, "Project Lily" kod adlı projeyle yüzlerce dış kaynak çalışanına gerçek kullanıcıların ChatGPT ile sohbetlerini okutarak modeli eğitiyor ve geliştiriyor. Denetçiler kullanıcı adlarını göremiyor, ancak tam sohbetleri görebiliyor. Bazı görevlerde kullanıcının "hafıza özeti" de ekleniyor; daha önce neler konuştuğu, muhtemelen nerede yaşadığı gibi bilgiler yer alıyor.

Bu kişiler önce kullanıcının ne yapmak istediğini özetliyor, ardından ChatGPT'nin ürettiği birden fazla yanıtı karşılaştırıp 1 ile 7 arasında puan veriyor. Denetim odağında bilgilerin doğru olup olmadığı, kullanıcıya aşırı yalakalık yapılıp yapılmadığı ve ChatGPT'nin kendisini fazla gerçek bir insan gibi tanıtıp tanıtmadığı yer alıyor.

OpenAI önce Privacy Filter ile isim, iletişim bilgileri gibi kişisel bilgileri kaldırıyor, ancak resmi olarak bu modelin nadir görülen kimlik bilgilerini ve belirsiz özel bilgileri atlayabileceğini de kabul ediyor. Bazı hassas içerikler hâlâ denetçilerin karşısına çıkabiliyor.

Her ChatGPT sohbeti insan tarafından okunmuyor. Bireysel Free, Plus ve Pro sürümlerinde "tüm kullanıcılar için modeli geliştir" varsayılan olarak açık; kullanıcı kapattığında yeni sohbetler artık eğitim için kullanılmıyor. Business, Enterprise ve Edu sürümleri varsayılan olarak eğitim için kullanılmıyor.