Massachusetts Teknoloji Enstitüsü (MIT) bilgisayar bilimcilerinin 2 Kasım’da ön baskısı yayımlanan araştırması, GPT-6 Astra adlı yapay zekâ modelinin başka bir modelin iç yapısını inceleyip düzenleyebildiğini ortaya koydu. Ekip, OpenAI tarafından geliştirilen Astra’nın farklı modellerin sinir ağı ağırlıklarını analiz etme ve hata ayıklama yeteneğini test etti.
Araştırmacılar, Pong ve Pac-Man oyunları için eğitilmiş sinir ağlarının verilerini Astra’ya verdi. Model, ek bilgi olmadan hangi veri ağının hangi oyuna ait olduğunu doğru biçimde belirledi.
Çalışmanın bir sonraki aşamasında Astra’ya daha küçük bir dil modeli olan Qwen 3.5’in iç değerleri sunuldu ve matematik becerisini iyileştirmesi istendi. Astra, bağlantı ağırlıklarının yalnızca yüzde 0,016’sını düzenledi; Qwen’in MATH-500 testindeki puanı yüzde 7,9’dan yüzde 48,1’e yükseldi.
Ekip yöntemi, belirgin bir yazılım kusuru bulunmayan Gemma 3 üzerinde de denedi. Astra bu modelde küçük akıl yürütme aksaklıkları tespit etti ancak müdahalenin matematik test puanına katkısı en fazla 0,9 puan oldu.
MIT makine öğrenimi araştırmacısı Rikiya Takehi, bu yeteneğin ilerlemesi halinde yapay zekâ modellerini sıfırdan eğitmek için gereken veri, enerji ve zaman maliyetlerinin büyük ölçüde azalabileceğini belirtti.
Oxford Üniversitesi yapay zekâ güvenliği araştırmacısı Fazl Barez ile Harvard Üniversitesi’nden biyoinformatikçi Marinka Zitnik, modellerin iç işleyişini otomatik yorumlayabilmenin bilim ve güvenlik açısından önemine dikkat çekti. Uzmanlara göre bu tür sistemler, modeller kullanıma sunulmadan önce gizli hataların ve siber saldırı açıklarının belirlenmesine yardımcı olabilir.






