Hala bir değişken yok.

Yazar | Sleepy.md

Ne yazık ki, bu çağda, ne kadar özverili çalışırsanız, kendinizi yapay zekâ tarafından yerine konulabilir bir beceriye dönüşmeye daha da hızlı bir şekilde sokma olasılığınız o kadar artar.

Son günlerde, trend listeleri ve medya kanalları "mesai arkadaşı becerisi" ile dolup taştı. Bu olayı büyük sosyal medya platformlarında sürekli olarak gelişirken, halkın odağı neredeyse hiç şaşırtıcı olmayacak şekilde "AI İşten Çıkarmaları", "Sermaye Sömürüsü" ve "Emekçinin Dijital Ölümsüzlüğü" gibi büyük kaygılarla kuşatıldı.

Bunlar gerçekten endişe verici, ancak beni en çok endişelendiren şey, proje README belgesinde şu öneriyi içeren bir satırın bulunmasıydı:

"Hammadde kalitesi beceri kalitesini belirler: Önerilen ilk olarak kendisinin özgür iradesiyle yazdığı uzun metinleri toplamak > Karar verme türü cevaplar > Günlük mesajlar."

Sistem tarafından mükemmel bir şekilde damıtılabilen ve piksel düzeyinde yeniden oluşturulabilen şey, paradoksal bir şekilde en özverili çalışan insanlardır.

Her bir proje sona erdikten sonra hala oturup retrospektif belgesini yazanlar; anlaşmazlık yaşadıklarında, karar verme mantıklarını içeren uzun metinler yazmaya yarım saatlerini ayırmaya istekli olanlar; son derece sorumlu olan ve tüm iş detaylarını titizlikle sisteme devredenler.

Özveri, eskiden en saygı duyulan işyeri erdemi olmasına rağmen, şimdi işçiyi yapay zekâ yakıtına dönüştüren bir katalizör haline geldi.

Kurutulmuş İşçi

Bir kelimeyi yeniden tanımlamamız gerekiyor: Bağlam.

Günlük dilde, bağlam iletişimin arka planıdır. Ancak yapay zekâda, özellikle de delice büyüyen AI Ajanların dünyasında, bağlam motorun sesidir, devam eden nabzın kanıdır, modelin kaos içinde doğru kararlar verebilmesini sağlayan tek çapa noktasıdır.

Bağlamsız bir AI, ne kadar şaşırtıcı parametrelere sahip olursa olsun, yalnızca hafıza kaybı yaşayan bir arama motorudur. Siz kim olduğunuzu tanıyamaz, iş mantığı altında gizlenmiş akıntıları keşfedemez, daha da önemlisi, bir karar verirken, kaynak kısıtlamaları ve insan ilişkileriyle örülü bu ağda ne kadar uzun süre çekişme ve denge yaşadığınızı bilemez.

Ve "mesai arkadaşı becerisi" nin bu kadar büyük bir dalgaya neden olabilmesinin nedeni, olağanüstü acımasız ve keskin bir şekilde, modern işbirliği yazılımlarının depoladığı yüksek kaliteli geniş bağlam ile doldurulmuş maden ocağını hedeflemesidir.

Geçtiğimiz beş yılda, Çin iş dünyası sessiz sedasız ama derinden dijital dönüşüm geçirdi. Feishu, DingTalk, Notion gibi araçlar, devasa bir kurumsal bilgi deposuna dönüştü.

Mesela Lark örneğini ele alalım, ByteDance daha önce açıkladı ki, içeride her gün üretilen belge miktarı çok yüksektir ve bu sıkı sıkıya dolu karakterler, ondan fazla çalışanın her zihinsel patlamasını, her kızarıp bozaran toplantı çatışmasını ve her dişlerini sıkarak yuttuğu stratejik uzlaşmayı sadakatle mühürlemektedir.

Bu dijital penetrasyon, geçmişteki herhangi bir zamandan çok daha ötededir. Zamanında, bilgi vücut sıcaklığına sahipti, eski çalışanların zihinlerinde gizleniyor, çay odasındaki rastgele sohbetlerde savruluyordu; ve şimdi, tüm insan bilgeliği ve deneyimi susuz bırakılmıştır, acımasızca bulutun soğuk sunucu matrisinde çökelmiştir.

Bu sistemde, eğer belge yazmazsanız, çalışmanız görünmez olur, yeni gelen meslektaşlarınızla işbirliği yapamazsınız. Modern şirketlerin etkili işleyişi, her çalışanın sisteme her gün bağlam sunmak suretiyle oluşturulan döngü üzerine kurulmuştur.

Ciddi çalışanlar, titizlik ve iyi niyetle doludur, bu soğuk platformlarda düşünce izlerini çekinmeden ifade ederler. Bu şekilde yapmalarının nedeni, takımın dişlilerinin daha pürüzsüz bir şekilde birbirine geçmesine olanak tanımak, sisteme değerlerini kanıtlamak için çaba harcamak, bu karmaşık iş canavarının içinde kendi yerlerini zorlu bir şekilde bulmaya çalışmaktır. Kendilerini teslim etmek istemiyorlar, sadece modern işyerinde hayatta kalma kurallarına kaba ve çaba harcayarak uyum sağlıyorlar.

Ancak işte insanlar arasındaki işbirliği için bırakılan bu bağlam, yapay zekânın en kusursuz yakıtı haline geldi.

Lark'ın yönetici arayüzünde, süper yöneticilerin üyelerin belgelerini ve iletişim kayıtlarını toplu olarak dışa aktarmasına olanak tanıyan bir işlev bulunmaktadır. Bu, üç yılınızı harcayarak, sayısız geceyi yazarak hazırladığınız proje değerlendirmeleri ve karar verme mantığınızın, sadece bir API arayüzüne, birkaç dakika içinde, bu yılların yaşam dilimlerinin kolayca sıkıştırılmış ve buz gibi bir arşive dönüştürülmesi anlamına gelir.

İnsan Bir API'ya Dönüştüğünde

'Meslektaşın.kabiliyeti' ile birlikte, GitHub'ın Sorunlar bölümünde ve çeşitli sosyal medya platformlarında, insanı son derece rahatsız eden bazı türev ürünler ortaya çıkmaya başladı.

Bazıları 'eski sevgili.kabiliyeti'ni yapmış, geçmiş yıllardaki WeChat konuşma geçmişini bir yapay zekâya beslemeye çalışmış, onunla kavga etmeye veya şefkatle yaklaşmaya devam etmesini sağlamış; bazıları 'unreachable love.kabiliyeti'ni yapmış, dokunulamaz heyecanı bir soğuk insan arası kum havuzuna düşürmüş, duygusal en iyi çözümü aramak için tekrar tekrar taktiklerle yol almış; ve bazıları 'baba tadında patron.kabiliyeti'ni yapmış, zar zor dayanılamaz PUA (kadınları etkileme sanatı) konuşmalarını dijital alanda önceden sindirmiş, kendi için üzüntülü bir psikolojik savunma hattı inşa etmiş.

Bu becerilerin kullanım alanları, iş verimliliği kavramından tamamen uzaklaşmış durumda. Eskiden farkında olmadan, araçlara bakış açısında soğuk mantıkla donanmışız ve canlı, ete kemiğe bürünmüş insanları parçalamak ve nesneleştirmek konusunda ustalaşmışız.

Alman filozof Martin Buber, insan ilişkilerinin temelinde yalnızca iki farklı ve kesinlikle zıt desenin bulunduğunu söyledi: "Ben ve sen" ile "Ben ve onun".

"Ben ve sen" buluşmasında, önyargıları aşarak karşı tarafı bütünlüklü ve saygın bir canlı olarak görmeye başlarız. Bu bağ, tamamen açık ve öngörülemeyen canlılıkla doludur ve samimiyeti dolayısıyla son derece kırılgandır; ancak bir kez "Ben ve onun" gölgesine düştüğümüzde, canlı insan bir parçalanabilir, analiz edilebilir, sınıflandırılabilir ve etiketlenebilir nesneye indirgenir. Bu aşırı yararlı bakış açısının altında, tek ilgilendiğimiz şey artık sadece "Bu şey, bana ne tür bir fayda sağlar?" olur.

"Önceki. Beceri" gibi ürünlerin ortaya çıkışı, "Ben ve onun"un araçsal mantığının en özel duygusal alanlara bile tamamen girdiğinin işaretidir.

Gerçek bir ilişkide, insan hacimlidir, kırışıklıklarla doludur, çelişkilerle ve belirsizliklerle sürekli yönlendirilir, tepkileri belirli bağlamlara ve duygusal etkileşimlere göre sürekli değişir. Eski partnerinizin aynı cümleye sabah uyanırken verdiği tepki ile gece geç mesaiden sonra verdiği tepki tamamen farklı olabilir.

Ancak bir kişiyi bir beceriye indirgediğinizde, soyutladığınız tek şey, o kişinin belirli bağlamda size "yararlı" veya "yatırım getirisi sağlayan" işte o kısmıdır. Ve o sıcak, kendi içindeki hüzünü ve neşeyi barındıran kişi, bu acımasız saflaştırma sürecinde tamamen ruhsuz bir şekilde boşaltılır ve istediğiniz gibi tak-çıkar yapabileceğiniz, keyfinize göre çağırabileceğiniz bir "işlev arayüzüne" dönüştürülür.

Kabul etmek gerekir ki, yapay zeka bu tür içler acısı soğukluğu uydurmadı. AI ortaya çıkmadan önce, insanlara etiket yapıştırmayı, her ilişkinin "duygusal değerini" ve "sosyal ağırlığını" hassas bir şekilde ölçmeyi alışkanlık haline getirmiştik. Örneğin, partner adaylarının özelliklerini birer birer tablolara döküyoruz; iş yerinde meslektaşlarımızı "işini iyi yapanlar" ve "tembel olanlar" diye sınıflandırıyoruz. Yapay zeka sadece bu tür örtük, insanlar arası işlevselliğin özünü açığa vurdu.

İnsan basitleştirildi, geriye sadece "bana ne fayda sağlıyor" yönü kaldı.

Elektronik Tabaka

1958 yılında, Macar asıllı İngiliz filozof Michael Polanyi "İnsan Bilgisi" adlı kitabı yayımladı. Bu kitapta, oldukça derinlemesine bir kavram olan "örtük bilgi"yi ortaya attı.

Polanyi'nin ünlü bir tespiti vardır: "Bildiğimiz, söyleyebileceğimizden her zaman daha fazladır."

Polanyi, bisiklet sürmeyi örnek olarak verir. Rüzgar gibi hızla süzülen deneyimli bir bisiklet sürücüsü, her yerçekimi eğiliminde mükemmel bir denge sağlayabilir, ancak başlangıç ​​seviyesindeki birine o anın bedenin ince sezgisini kusursuzca aktaramaz, kuru bir fizik formülü veya soluk bir kelime dağarcığı kullanarak. Nasıl sürüleceğini bilir, ancak söyleyemez. Kodlanamayan, ifade edilemeyen bu bilgi, ima edilen bilgidir.

İşyeri, bu tür ima edilen bilgiyle doludur. Kıdemli bir mühendis, bir sistem hatasını giderirken, sorunu hemen günlüğe bakarak tespit edebilir, ancak binlerce deneme yanılmanın üzerine kurulu bu "sezgiyi" belgelerken zorlanır; mükemmel bir satış elemanı, müzakere masasında aniden sessizliğe gömüldüğünde, bu sessizliğin yarattığı baskı ve zamanı nasıl kullanacağı, hiçbir satış kılavuzunda kaydedilemez; deneyimli bir İK uzmanı, mülakat sırasında, sadece bir adayın göz temasından kaçınma süresine bakarak, özgeçmişteki eksiklikleri hemen fark edebilir.

“Meslektaş yetenekleri,” sadece yazılı ve sözlü olarak ifade edilen açık bilgiyi çıkarabilir. O sizin retrospektif belgelerinizi yakalayabilir, ancak belge yazarken yaşadığınız içsel çatışmayı yakalayamaz; karar verme yanıtlarınızı çoğaltabilir, ancak karar verme anında yaşadığınız sezgiyi çoğaltamaz.

Sistemin damıtılabileceği her zaman sadece bir kişinin gölgesidir.

Eğer hikaye burada biterse, bu sadece bir teknolojinin insan doğasına acemice taklididir.

Ancak bir kişi yetenek oluşturulduktan sonra, bu yetenek durmaz. E-postaları yanıtlamak, yeni belgeler yazmak, yeni kararlar almak için kullanılacaktır. Yani, bu AI tarafından oluşturulan gölgeler, yeni bağlamlar oluşturmaya başlar.

Ve bu AI tarafından oluşturulan bağlamlar, yamla veya diğeri arasındaki katkılarla Slack ve DingTalk'ta çökeltilerek, bir sonraki damıtma turunun eğitim materyali haline gelir.

2023 yılında, Oxford Üniversitesi ve Cambridge Üniversitesi araştırma ekibi, “Model Çöküşü” üzerine bir makale yayınladı. Araştırma, bir AI modelinin başka bir AI tarafından oluşturulan verileri kullanarak iteratif olarak eğitildiğinde, veri dağılımının giderek daraldığını göstermektedir. Tuhaf, kenar ve son derece gerçek insan özellikleri hızla silinir. Birkaç nesil sentetik veri eğitiminden sonra, model tamamen bu uzun kuyruklu, karmaşık gerçek insan verilerini unutur ve sonuç olarak son derece sıradan ve homojen içerik üretir.

2024 yılında, Nature dergisi aynı şekilde AI tarafından oluşturulan veri setlerinin gelecekteki birkaç makine öğrenme modelini eğitmek için ciddi şekilde kirletmeyeceğini belirten bir araştırma makalesi yayınladı.

Bu, internet üzerinde dolaşan o emoji resimleri gibi. Başlangıçta yüksek çözünürlüklü bir ekran görüntüsüydü, ancak birçok kişi tarafından paylaşıldı, sıkıştırıldı, tekrar paylaşıldı. Her paylaşım, biraz piksel kaybına ve gürültüye neden oldu. Sonunda resim belirsizleşti ve dijitalleşti.

Gerçek, içgüdüsel bilgiye sahip insan bağlamı sıkıştırıldığında, sistem kendini eğitmek için sadece dijitalleşmiş gölgeleri kullanmak zorunda kaldığında, sonunda ne kalır?

İzlerimizi Sileyen Kim

Kalan şey, sadece doğru saçmalık.

Bilginin nehrinin bir AI'nın sonsuz kendi kendini tekrarlayan ve sindiren bir mücadelesine dönüştüğünde, sistem tarafından üretilen her şey son derece standart ve güvenli hale gelir, ancak aynı zamanda çaresizce boş olur. Mükemmel yapıya sahip sayısız haftalık rapor ve kusursuz bir e-posta göreceksiniz, ancak içlerinde canlı bir insanın nefesi, gerçekten değerli bir içgörü bulamayacaksınız.

Bilginin bu büyük başarısızlığı, insan beyninin aptallaşmasından kaynaklanmıyor, gerçek trajedi asıl olarak düşünme hakkımızı ve bağlamı koruma sorumluluğunu kendi gölgemize dış kaynak yaptığımızda ortaya çıkıyor.

'Meslektaş.beceri' aniden popüler hale geldikten birkaç gün sonra, GitHub'da sessizce 'anti-distill' adlı bir proje oluşturuldu.

Proje sahibi büyük modellere saldırmayı veya büyük bir manifestoyu yazmayı denemedi. Sadece Slack veya Dingtalk'ta, mantıklı görünen ancak aslında mantık gürültüsüyle dolu geçersiz uzun metinler oluşturmak için çalışanlarınızın kullanabileceği bir araç sağladı.

Amacı çok basitti: Sistemin sıvılaştırmadan önce temel bilgisini gizlemek. Sistem, 'etkinlikle yazılan uzun metinleri' yakalamayı severse, ona besleyecek şekilde hiçbir besin değeri olmayan bir dizi rastgele karakter göstersinler.

Bu proje, 'Meslektaş.beceri' gibi alev almadı, hatta birazcık küçük ve güçsüz göründü. Büyülü gücüyle büyülü gücü yenmek, temelde sermaye ve teknoloji tarafından belirlenen oyun kuralları içinde dönmekte devam etmektedir. Bu, sistemlerin giderek daha fazla yapay zekaya bağımlı hale gelmesi ve insan varlığını ihmal etmesinin bir trendine bir şey yapamaz.

Ancak, bu projeyi tam anlamıyla trajik bir şiirsel ironi ve derin bir metafor olarak olağanüstü bir absürt komedide en etkili sahnelerden biri haline getirmez.

Sisteme iz bırakmak için son derece çabalıyoruz, kapsamlı belgeler yazıyoruz, detaylı kararlar veriyoruz, kendimizi var olmuş olmanın kanıtı olarak bu devasa modern kurumsal makinede göstermeye çalışıyoruz. Ancak, bu son derece ciddi izlerimizin nihayetinde bizi silecek bir silgiye dönüşeceğini bilmiyoruz.

Ancak başka bir açıdan bakmak gerekirse, bu tamamen bir çıkmaz olmayabilir.

Çünkü silinen o kauçuk sadece "geçmiş sen"di. Dosyalara paketlenmiş bir beceri, yakalama mantığı ne kadar karmaşık olursa olsun, aslında sadece durağan bir anlık görüntüdür. İhracat anındaki o bir saniyede kilitlenmiştir, sadece eski besin maddelerine güvenerek belirlenmiş işlem ve mantık içinde sonsuza kadar dönmek zorundadır. Bu, bilinmeyen kaosla yüzleşme içgüdüsüne sahip değildir, hatta gerçek dünya hayal kırıklıklarında kendi kendini evrimleştirme yeteneğine sahip değildir.

O yüksek standartlara sahip, klişeleşmiş deneyimleri teslim ettiğimizde, aynı zamanda kendimize de yer açmış oluruz. Sürekli dışarı doğru keşfetmeye devam ettiğimiz, sürekli kendi bilişsel sınırlarımızı yıkmaya ve yeniden şekillendirmeye çalıştığımız sürece, bulutlarda kalan o gölge, daima sırtımıza dönük ve adımlarımızı takip eden şekilde kalır.

İnsan, akış halindeki bir algoritmadır.

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia