Geoffrey Hinton: Derin Öğrenmenin Babası

Geoffrey Everest Hinton; Deep Learning’in babası olarak bilinen, İngiliz-Kanadalı bilişsel ruhbilimci ve bilgisayar bilimcisidir. Geoffrey Hinton: Derin Öğrenmenin Babası başlığı altında bu büyük bilim insanını sizlere tanıtacağız.

6 Aralık 1947 tarihinde Londra’da dünyaya gelen ve hala hayatta olan Geoffrey Hinton, en çok yapay sinir ağları üzerinde yaptığı çalışmalarla ve makine öğrenimi algoritmaları tasarlamasıyla anılır. Amacı; büyük ve yüksek boyutlu veri kümelerinde (dataset) karmaşık yapıyı bulmada etkili bir öğrenim prosedürü keşfetmek ve beynin görmeyi böyle öğrendiğini göstermektir.

1986’da yayınlanan ve çok katmanlı sinir ağlarını eğitmek için Geri Yayılım Algoritması’nı (Backpropagation Algorithm) tanıtan makalenin üç araştırmacı yazarından biriydi (David Rumelhart ve Ronald J. Williams ile birlikte).

Geoffrey Hinton; ImageNet adlı araştırma ekiplerinin algoritmalarını verilen veri seti üzerinde değerlendireceği ve çeşitli görüntü tanıma görevlerinde daha yüksek doğruluk elde etmek için rekabet edilen bir yarışmada, öğrencileri olan Alex Krizhevsky ve Ilya Sutskever ile birlikte yaptığı AlexNet tasarımıyla bilgisayar görüşü alanında çığır açmıştır.

Geoffrey Hinton; 2018’de Yoshua Bengio ve Yann LeCun ile birlikte, Deep Learning alanında yaptıkları çalışmalar için Turing Ödülü’nü (Bilgisayar Makineleri Derneği -ACM- tarafından “bilgisayar alanına kalıcı ve büyük teknik öneme sahip” katkılarından dolayı bilim insanlarına her yıl verilen ödül) almaya hak kazanmıştır.

1. Eğitim Hayatı
2. Kariyeri ve Araştırmaları
3. Röportajlarından Satırbaşları
4. Şimdilerde Ne Yapıyor?
5. Kazandığı Ödüller

Geoffrey Hinton’un Eğitim Hayatı

6 Aralık 1947 tarihinde Wimbledon, Londra’da hayata gözlerini açan Geoffrey Hinton, Cambridge’deki King’s College’da eğitim gördü ve 1970 yılında Deneysel Psikoloji alanında lisans derecesi ile mezun oldu. Sonrasında, çalışmalarına 1978’de yapay zekâ alanında doktora derecesini aldığı Edinburgh Üniversitesi’nde devam etti.

Kariyeri ve Araştırmaları

Geoffrey Hinton’un Kariyeri

Sussex Üniversitesi ve California San Diego Üniversitesi’nde doktora sonrası çalışmalar yaptı ve Carnegie-Mellon Üniversitesi Bilgisayar Bilimleri bölümünde öğretim üyesi olarak beş yıl geçirdi. Daha sonra Kanada İleri Araştırma Enstitüsü’nün bir üyesi oldu ve Toronto Üniversitesi Bilgisayar Bilimleri Bölümüne geçti. 1998’den 2001’e kadar University College London’da Gatsby Computational Neuroscience Unit’i (Gatsby Hesaplamalı Sinirbilim Birimi) kurdu ve ardından Toronto Üniversitesi’ne döndü. 2004’ten 2013’e kadar Kanada İleri Araştırma Enstitüsü tarafından finanse edilen “Sinirsel Hesaplama ve Uyarlanabilir Algılama” programının direktörlüğünü yaptı. 2013’te Google, Hinton’ın Toronto Üniversitesi’ndeki araştırmasından geliştirilen, sinir ağları girişimi DNNresearch’ü satın aldı. Bu satın almadan sonra Google’a katıldı.

Geoffrey Hinton’un Araştırmaları

Geoffrey Hinton araştırmalarında; makine öğrenimi, hafıza, algılama ve sembol işleme için sinir ağlarını kullanmanın yollarını araştırıyor. Ayrıca kendisinin yazdığı veya katkıda bulunduğu 200’den fazla hakem incelemeli yayın vardır.

Geoffrey Hinton, Carnegie Mellon Üniversitesi’nde bir profesör iken (1982–1987), David E. Rumelhart ve Ronald J. Williams ile birlikte, geri yayılım algoritmasını çok katmanlı sinir ağlarına uyguladılar. Deneyleri, bu tür ağların verilerin yararlı dahili temsillerini öğrenebileceğini gösterdi. 2018’de verdiği bir röportajda Hinton, “David E. Rumelhart geri yayılımın temel fikrini ortaya attı, yani bu onun icadı.” demiştir.

Aynı dönemde Hinton, Boltzmann makinelerini David Ackley ve Terry Sejnowski ile birlikte icat etti. Hinton bir röportajında, sinir ağları buluşları ve derin öğrenme çalışmaları arasında hala kendisini heyecanlandıran buluşunun bu olduğunu söylemiştir. Kısaca bahsedecek olursak bir Boltzmann makinesi, açık mı kapalı mı olacağına dair stokastik (rastgele belirlenen; istatistiksel olarak analiz edilebilen ancak kesin olarak tahmin edilemeyen rastgele bir olasılık dağılımına veya modeline sahip olma durumu) kararlar veren simetrik olarak bağlı, nöron benzeri birimlerden oluşan bir ağdır. Bilgilerin detaylıca açıklandığı makaleye de buradan ulaşabilirsiniz.

Sinir ağı araştırmalarına yaptığı diğer katkılar arasında, zaman gecikmeli sinir ağı (Time Delay Neural Network-TDNN), Helmholtz makineleri ve Uzmanların Ürünü (Product of Experts-PoE) bulunmaktadır.

2007 yılında Hinton, denetimsiz görüntü dönüşümlerinin öğrenilmesi başlıklı bir denetimsiz öğrenim makalesinin ortak yazarlığını yaptı. Bu makaleye de buradan ulaşabilirsiniz.

Kapsül Sinir Ağları (Capsule Neural Network)

Geoffrey Hinton, sırasıyla Ekim ve Kasım 2017’de kapsül sinir ağları temasıyla ilgili iki açık erişim araştırma makalesi yayınladı ve Hinton bu araştırması hakkında şunları söyledi: “Sonunda iyi çalışan bir şey“.

Geoffrey Hinton kapsül sinir ağlarını (Capsule Neural Network) açıklarken, artık insan beynini taklit etmemiz gerektiğini söyledi. İnsan gibi düşünen yapay zekaların en güçlü versiyonlarından biri olan bu ağlar, diğer yapay zekalara göre ayırt etme işlemlerinde iki kat daha iyi sonuç veriyor.

Ayrıca, taklit etmemiz gerektiğini göstermek için bu sistemi diğer makine öğrenimi yazılımlarının yüz tanıma performansıyla karşılaştırdığında, kendi yazılımı diğer yazılımlardan %50 daha başarılı oldu. Hinton’ın kapsül sinir ağları ile ilgili yayınladığı iki makaleden birine ulaşmak için buraya, diğerine ulaşmak için de buraya tıklayın.

Geoffrey Hinton Röportajlarından Satırbaşları

Derin Öğrenmenin Yapabilecekleri

Soru: Derin öğrenmenin tüm insan zekasını kopyalamak için yeterli olacağını düşünüyorsunuz. Sizi bu kadar emin kılan ne?

Cevap: Derin öğrenmenin her şeyi yapabileceğine inanıyorum, ancak epeyce kavramsal ilerleme olması gerektiğini düşünüyorum. Örneğin, 2017’de Ashish Vaswani ve arkadaşları, kelime anlamlarını temsil eden gerçekten iyi vektörler türeten dönüştürücüler tanıttı. Kavramsal bir gelişmeydi. Artık neredeyse tüm iyi doğal dil işlemlerinde kullanılmaktadır. Bunun gibi birtakım yeni buluşlara ihtiyacımız olacak.

Soru: Peki bu atılımlara sahipsek, derin öğrenme yoluyla tüm insan zekasına yaklaşabilecek miyiz?

Cevap: Evet. Özellikle mantık gibi şeyleri uygulamak için büyük sinirsel aktivite vektörlerini nasıl elde edeceğinizle ilgili atılımlar. Ama aynı zamanda büyük bir ölçek artışına ihtiyacımız var. İnsan beyninde yaklaşık 100 trilyon parametre veya sinaps vardır. Şimdi GPT-3 gibi gerçekten büyük bir model olarak adlandırdığımız şeyin 175 milyarı var. Yani, beyinden bin kat daha küçük. GPT-3 artık oldukça makul görünen metinler oluşturabilir ama beyne kıyasla hâlâ küçüktür.

Soru: Ölçek derken, daha büyük sinir ağlarını mı, daha fazla veriyi mi yoksa her ikisini mi kastediyorsunuz?

Cevap: Her ikisi de. Bilgisayar biliminde olanlar ile insanlarda olanlar arasında bir tür tutarsızlık vardır. İnsanların, elde ettikleri veri miktarına kıyasla çok sayıda parametresi vardır. Sinir ağları, oldukça az miktarda veriyle, çok sayıda parametreyle başa çıkmada şaşırtıcı derecede iyidir, ancak insanlar daha da iyidir.

Yapay Zeka ve Riskleri

Soru: Yapay zekanın riskleri hakkında ne düşünüyorsunuz? Yeni bir sanayi devrimine yol açabilir mi? İş piyasasını nasıl etkileyecek?

Cevap: Verimliliği çarpıcı biçimde artırabilir. Bu aslında iyi bir şey. Fakat bunun sosyal sistemle de ilgisi var. İnsanlar teknolojik gelişmelere birer sorun gibi bakabiliyorlar. Yapay zekanın insan gücünün yerini alabileceğini ve işsiz kalabilecek birçok insan olabileceğini düşünebiliyorlar. Fakat bu bakışın teknoloji ile alakası yok. Tamamen sosyal sistemle alakalı.

Soru: Bir endüstri politikamız olması gerektiğini düşünüyor musunuz? Ülkeler yapay zekayı bir öncelik haline getirmeli mi?

Cevap: Bu bana mantıklı geliyor. Birçok teknolojik gelişme yaşanacak ve yöneticilerin bu teknolojik gelişmeleri desteklememeleri için deli olmaları gerek. Kesinlikle yapay zekaya yatırım yapılması gerektiğini düşünüyorum.

Soru: Yapay zekâ alanında iş bulmak çok zor. Bu alanda çalışmak isteyen gençlere önerileriniz var mı?

Cevap: Yaptıkları varsayımların bazılarına alternatifler düşünmeliler. İnsanlara genelde verdiğim tek bir tavsiye var, yaptıklarının yanlış olduğunu düşünüp, daha iyi şeyler yapabilecekleri konusunda sezgileri varsa, kesinlikle sezgilerini takip etsinler. Ayrıca üniversiteden mezun olmuş ve işsiz kişilerin fikirlerinin verimli olacağını düşünüyorum. Yüksek lisans yapan ya da direkt çalışmaya başlayan insanların radikal değişimler yaratacak fikirleri üretme özgürlüğü bence yok. Birkaç yıl oturup düşünmek gerek diye düşünüyorum.

Geoffrey Hinton Şimdilerde Ne Yapıyor?

Geoffrey Hinton şu anda birçok görevi aynı anda yapmaktadır. İşte üstlendiği görevler:

• Google Başkan Yardımcısı ve Başmühendisi
• Google Brain (derin öğrenmeli yapay zekâ araştırma ekibi) Toronto ekibinin yöneticisi
• Toronto Üniversitesi’nde Bilgisayar Bilimleri profesörü
• Kanada İleri Araştırma Enstitüsü’nde Makine ve Beyinde Öğrenme Programı danışmanı
• Vektör Enstitüsü’nde Baş Bilimsel Danışman
• Yapay Zekayı Geliştirme Derneği başdanışmanı

Geoffrey Hinton’un Kazandığı Ödüller

• Bilgisayar biliminin nobeli olarak adlandırılan A.M. Turing Ödülü (2018- Kanadalı Yoshua Bengio ve Fransız Yann LeCun ile birlikte). Yapay sinir ağları ve derin öğrenme kavramlarını bilgisayar bilimine uyarlayan çalışmaları dolayısıyla ödüle layık görüldüğü belirtildi.
• İlk David E. Rumelhart ödülüne layık görüldü (2001).
• IEEE James Clerk Maxwell altın madalyası (2016)
• Kanada Doğa Bilimleri ve Mühendislik Araştırma Konseyi tarafından verilen altın madalya (Kanada’nın Bilim ve Mühendislik alanındaki en büyük ödülü)
• 2016’da Wired 100 adlı küresel etkileyicilerin (influencerların) listesine seçildi.
• Londra Kraliyet Cemiyeti üyeliği (Londra Kraliyet Cemiyeti hakimleri tarafından matematik, mühendislik bilimi ve tıp bilimi dahil olmak üzere doğal bilginin iyileştirilmesine önemli katkılarda bulunan kişilere verilen bir ödül)
• Kanada Kraliyet Cemiyeti üyeliği (Kanada Kraliyet Cemiyeti’nin “sanat, beşerî bilimler ve ayrıca Kanada kamu yaşamında kayda değer katkılarda bulunduğunu” yargıladığı kişilere verilen bir ödül)
• Kanada Nişanı (bir Kanada ulusal düzeni ve Liyakat Nişanı’ndan sonra Kanada’nın emir, nişan ve madalya sistemindeki en yüksek ikinci onur)
• Edinburgh Üniversitesi, Sussex Üniversitesi ve Sherbrooke Üniversitesi’nden fahri doktora aldı.
• Uluslararası Yapay Zekâ Ortak Konferansı (International Joint Conference on Artificial Intelligence) araştırma mükemmelliği ödülü (2005)
• Killam Ödülü (2012)

Herkese göre derin öğrenmenin babası olan, hatta kimilerine göre yapay zekanın da babası olarak sayılan Geoffrey Hinton ile ilgili yazımız burada sona eriyor. Yorumlar kısmında düşüncelerinizi bizimle paylaşabilirsiniz.