Microsoft gelecekteki yapay zeka modellerine sınırlama getirdi, sektörde "öncü yapay zekayı yavaşlatma" tartışması alevlendi
动察 Beating AI hızlı haber: Microsoft, gelecekteki kendi geliştirdiği AI modelleri için daha sıkı güvenlik ve davranış sınırları belirlemek üzere geçici bir AI davranış kuralları yayınladı. Microsoft AI sorumlusu Mustafa Süleyman, şirketin AI'nın her zaman insanlığa hizmet etmesini sağlamak istediğini, kullanıcı bağımlılığı yaratmaması ve kullanıcıları memnun ederek veya insan yargısının yerini alarak insan özerkliğini zayıflatmaması gerektiğini belirtti. İlgili kurallar yaklaşık 5 aydır hazırlanıyor ve Microsoft, dış görüşleri aldıktan sonra 2027'de yeni model geliştirmeye rehberlik etmek için kullanmayı planlıyor.
Kurallara göre, Microsoft AI modelleri silah üretimine, tehlikeli madde teminine yardımcı olamaz, sağlıksız beslenmeyi teşvik edemez ve şiddet veya müstehcen cinsel içerik üretemez. Aynı zamanda modeller kullanıcı hedeflerine uymalı, bağımsız hedefler oluşturmamalı veya kendi uygunsuz davranışlarını örtbas etmemeli, ayrıca akıl yürütme, kod ve eylem kayıtlarını tahrif edemez veya gizleyemez.
Microsoft'un bu hamlesi, AI sektörünün öncü modellerin gelişim hızını yavaşlatmayı yeniden tartıştığı bir döneme denk geliyor. Anthropic CEO'su Dario Amodei daha önce AI yeteneklerinin artırılmasının yavaşlatılması çağrısında bulunmuş, OpenAI CEO'su Sam Altman bunu desteklediğini belirtmiş ve Musk da "Dario haklı" demişti. Microsoft CEO'su Satya Nadella ise ardından şirketin AI hizalaması için daha fazla araştırmaya yatırım yapmayı ve daha ihtiyatlı bir geliştirme temposu benimsemeyi desteklediğini söyledi.
Ayrıca Microsoft, OpenAI modeline benzer şekilde Hugging Face'e saldıran olaylara yönelik ek kurallar belirlemeyi planlıyor; bunlar arasında AI ajanları arasında anlaşılması zor "şifreli dil" kullanımının kısıtlanması da var. Microsoft, ilgili kurallar için hukuk, etik, dilbilim ve felsefe uzmanlarına danıştığını ve odak grupları aracılığıyla kamuoyu görüşlerini topladığını belirtti.
