Sunday, November 25, 2012

Hinton Geri Geldi

Yapay Sinir Aglari alaninda unlu Geoffrey Hinton, Derin Ogrenme (Deep Learning -DL-) adli bir teknikle geri geldi. YSA (ve Hinton), 90'li yillarda SVM ve benzer tekniklerin parlamasi ile biraz arka planda kalmisti. Ama o sirada, ve son yenilik oncesi, Hinton Kisitli Boltzman Makinalari (Restricted Boltzman Machines -RBM) alaninda ilerlemeler yapmis; ve en son DL tekniginde ust uste konulan RBM'ler arasinda bir hiyerarsi olusturarak ses ve goruntu tanimada ciddi ilerlemeler kaydetmeyi basardi. Bu bulus etrafinda bayagi gurultu kopuyor bu gunlerde, acaba evrensel ogrenme algoritmasi  bu mu? gibi dusunceler.. DL, tamamen paralel sekilde kullanilmaya acik, Hinton'a gore ne kadar fazla donanim, ne kadar fazla paralellik eklenirse DL o kadar daha iyi isleyecektir.

Hinton ve arkadaslari gecende girdikleri bir Kaggle yarismasinda az bir veri uzerinde (ki eski YSA'lar genelde cok veriye ihtiyac duyarlardi), fazla "veri hazirlama"dan son anda girip birinciligi kazandilar. Bir diger makalede, yine ayni grup, daha onceki bir yarisma Netflix verisi uzerinde toplam filtrelemede (collaborative filtering) o yarismayi kazanmis olan ve dikkatle ayarlanmis SVD bazli algoritmayi hic ayarlanmamis RBM ile az da olsa gectiklerini yazdilar..

Diger yonde bir gorus surada.

Derini  Ogrenim'i Hinton burada anlatiyor

No comments: