İyi araştırma nasıl yapılır: "Kasıtlı olarak pratik yapılabilecek" gerçek yetenekleri geliştirmek

Bu makaleyi okumak için 8 Dakika

Araştırma yeteneği bir yetenek değil, bilinçli olarak pratik yapılabilecek bir dizi küçük beceridir.

Orijinal Başlık: Araştırmada Nasıl İyi Olunur

Orijinal Yazar: vivek, AI Analisti

Orijinal Çeviri: Pratik Kardeş MinLi, AI Builder

Kimse sana gerçekten nasıl araştırma yapılacağını öğretmedi. Bir masa, başkasının seçtiği bir problem ve "yeni bir şey ortaya koy" gibi belirsiz bir talimat alırsın.

Bu yüzden çoğu insan, gördükleri şeylerden (makaleler, gönderiler ve duyurular gibi) yola çıkarak bu işi tersine mühendislikle öğrenir. Sonunda öğrendikleri şey, bir araştırmacı "gibi görünmek" olur, gerçekten bir araştırmacı "olmak" değil. Gerçek araştırma yeteneği, bir dizi küçük becerinin üst üste yığılmasıdır ve neredeyse her biri bilinçli pratikle geliştirilebilir.

Kendi Problemini Seç

Richard Hamming'in Bell Laboratuvarları'nda bir alışkanlığı vardı ve bu onu öğle yemeklerinde pek sevilmeyen biri yapardı. Yanında oturan kişiye, alanındaki önemli sorunun ne olduğunu sorar ve ardından neden bu sorun üzerinde çalışmadıklarını sorardı. Bunun üzerine herkes masayı değiştirirdi.

Bu soru can yakıcıdır çünkü çoğumuz iyi bir cevap veremeyiz. Biz problemleri seçmiyoruz, onları emiyoruz – danışmanlardan, büyük bir laboratuvarın geçen çeyrekte yayınladığı duyurulardan, bu hafta herkesin atıfta bulunduğu makalelerden.

Emilen problemlerle ilgili sorun, yalnızca sonuca sahip olman ama ardındaki mantığı bilmemen. Ünlü bir laboratuvarın belirli bir yöne odaklandığını bilirsin, ama nedenini, ne keşfetmeyi beklediklerini veya hangi durumda bu yönden vazgeçeceklerini bilmezsin.

Onlar yön değiştirdiğinde, sen bunu bir yıl sonra fark edersin. Ayrıca, popüler hale gelmiş bir problemde, senden daha erken başlayan ve daha fazla hesaplama gücüne sahip 1.000 kişiyle yarışıyorsun.

John Schulman'ın makine öğrenimi araştırma rehberi, bu işi iki moda ayırır. Birincisi, literatürü okur ve iyileştirilecek yerler ararsın. İkincisi, gerçekten ulaşmayı umduğun bir sonuç seçer ve deneyleri bunu tersine mühendislikle tasarlarsın.

O, ikincisini savunur ve bunun örtük nedeni, özgünlük yaratmasıdır. Gerçekten önemsediğin bir hedef, seni hiçbir derleme makalesinin kapsamadığı bir alana sürükler.

"Zevk" (taste) konusuna gelince, insanlar bunu genellikle doğuştan gelen bir yetenek olarak tartışır. Ama aslında bir kas gibi davranır.

Her deneyi çalıştırmadan önce sonucunu tahmin edin; bir makalenin sonuç bölümünü kapatın ve sadece yöntemine dayanarak verileri tahmin etmeye çalışın; bu ay yayınlanan hangi çalışmaların iki yıl sonra hâlâ önemli olacağını not alın ve daha sonra isabet oranınızı kontrol edin. Bir tahmin ve bir düzeltme, bunu yüzlerce kez tekrarlayın; iyi bir model böyle eğitilir, kafanızdaki de dâhil.

Girdinizi Yükseltin

Paylaşılan okuma listeleri, paylaşılan fikirler üretir. Bilgi kaynağınız yalnızca arXiv'in popüler listesi ve grup sohbetlerinden süzülenlerden ibaretse, herkesle aynı anda aynı sonuçlara varırsınız ve bu da bu sonuçları neredeyse değersiz kılar.

Eski kaynakların değeri ciddi şekilde hafife alınıyor. Bu alan, geçmişini sürekli gecikmeli olarak tekrarlar: Uzman Karışımı (MoE) 1991'e, LSTM 1997'ye, geri yayılım ise 1986'ya kadar uzanır.

Rich Sutton, 2019'da sadece bin kelimeyle "Acı Ders"i (The Bitter Lesson) yazdı ve bu yazı, alanın gelişim yörüngesini, on kat daha uzun incelemelerden daha iyi tahmin etti. Claude Shannon, 1952'de yaratıcı düşünce üzerine bir konuşma yaptı ve ilk adımı, sorunu neredeyse önemsiz hale getirmek, bu küçültülmüş versiyonu çözmek ve ardından zorluğu yavaşça geri eklemekti.

Sadece bu yöntemle, herhangi bir modern üretkenlik tavsiyesinden daha fazla duvarı yıkabilirsiniz.

Genişlik ve derinlik eşit derecede önemlidir. Açıklanabilirlik araştırmaları, sinirbilimden açıkça ilham alır; Değerlendirme (Eval) tasarımı, beyaz önlük giymiş mekanizma tasarımıdır; GPU'nun belleği tam olarak nasıl taşıdığına dair pratik bir bilgiye sahipseniz, kıyaslama sonuçları çıkmadan hangi mimari makalelerinin başarısız olacağını anlayabilirsiniz; ve dürüst istatistik, makine öğreniminde en nadir bulunan beceri olabilir; bu alanda yayınlanan birçok "titizlik", sadece hata çubuklarıyla süslenmiş "sezgi"dir.

Bir şey daha. Makaleleri okuyun, onları özetleyen gönderileri değil. Ekler, sırların gömülü olduğu yerdir ve "sınırlamalar" bölümü genellikle belgenin en dürüst kısmıdır.

Her Şeyi Yazın

Paul Graham, bir fikrin onu kelimelere dökmeye çalışana kadar tamamen olgunlaşmış gibi hissettirdiğini belirtir. Ancak siyah beyaz yazı, beyninizin süslediği kusurları ortaya çıkarır: hiç test etmediğiniz varsayımlar, aslında tutarlı olmayan adımlar, sessizce birbiriyle çelişen iki iddia.

Feynman'ın ilkesi şudur: Kendini kandırmaktan kaçınman gereken ilk kişi kendinsin, çünkü en kolay kandırılacak hedef sensin. Yazmak, şimdiye kadar icat edilmiş en ucuz savunma mekanizmasıdır.

Darwin daha da ileri giderek bunu programlı hale getirdi: Teorisine aykırı herhangi bir gerçeği hemen yazıya dökerdi, çünkü hafızasının aleyhine olan kanıtları, lehine olanlardan çok daha hızlı sildiğini fark etmişti. Hafızan, başarısızlıklarının kaydı konusunda da aynı şeyi yapar.

Bir günlük tutma alışkanlığı edin: Varsayımlar, kurulumlar, beklentiler, sonuçlar, güncellenmiş bilgiler. Geçen ayın kayıtlarını tekrar okumak, seni hiçbir editörün yapamayacağı kadar alçakgönüllü kılar.