Skip to content

Uzmanlar Yapay Zekayı Şimdi Kontrol Etmemiz Gerekiyor

13 de Nisan de 2021

Temel Çıkarımlar

  • Yeni araştırmalar, süper akıllı yapay zekayı kontrol etmenin bir yolu olmayabileceğini gösteriyor.
  • Bir dergi makalesi, yapay zekayı kontrol etmenin şu anda sahip olduğumuzdan çok daha ileri teknoloji gerektireceğini savunuyor.
  • Bazı uzmanlar, gerçekten zeki yapay zekanın düşündüğümüzden daha erken burada olabileceğini söylüyor.
Yuichiro Chino / Getty Images
Bilim adamları, eğer insanlar süper akıllı yapay zeka geliştirirlerse, onu kontrol etmenin bir yolu olmayabilir, diyor bilim adamları. AI uzun zamandır insanlığın tüm sorunlarına bir çare olarak ya da Terminatörtarzı kıyamet. Şimdiye kadar yapay zeka, insan seviyesinde zekaya bile yaklaşmadı. Ancak, gelişmiş yapay zekaya sıkı sıkıya bağlı kalmak insanlar için çok karmaşık bir sorun olabilir. Yapay Zeka Araştırmaları Dergisi. Gazetenin ortak yazarlarından Manuel Cebrian bir haber bülteninde “Dünyayı kontrol eden süper zeki bir makine kulağa bilim kurgu gibi geliyor” dedi. “Ancak, programcılar onu nasıl öğrendiklerini tam olarak anlamadan bazı önemli görevleri bağımsız olarak yerine getiren makineler zaten var. Bu nedenle, bunun bir noktada kontrol edilemez ve insanlık için tehlikeli olup olmayacağı sorusu ortaya çıkıyor.”

Yakında Yakınınızdaki Süper Bir Bilgisayara Geliyor

Dergi makalesi, yapay zekayı kontrol etmenin şu anda sahip olduğumuzdan çok daha ileri teknoloji gerektireceğini savunuyor. Ekip, çalışmalarında, süper zeki bir yapay zekanın, önce yapay zekanın davranışını simüle ederek ve zararlı olduğu düşünüldüğünde durdurarak insanlara hiçbir koşulda zarar verememesini sağlayan teorik bir çevreleme algoritması tasarladı. Ancak yazarlar, böyle bir algoritmanın inşa edilemeyeceğini keşfettiler. “Problemi teorik bilgisayar biliminin temel kurallarına indirgerseniz, bir yapay zekaya dünyayı yok etmemesini emredecek bir algoritmanın yanlışlıkla kendi operasyonlarını durdurabileceği ortaya çıkıyor.” Almanya’daki Max Planck İnsani Gelişme Enstitüsü İnsan ve Makine Merkezi direktörü Iyad Rahwan haber bülteninde söyledi. “Bu olursa, sınırlama algoritmasının tehdidi hala analiz edip etmediğini veya zararlı yapay zekayı içermek için durup durmadığını bilemezsiniz. Aslında bu, sınırlama algoritmasını kullanılamaz hale getirir.”

Kavramsal görüntü: AI robot yüzünü dönüştüren ikili kod.

Yuichiro Chino / Getty Images
Fransa’daki École Polytechnique’de bilgisayar bilimleri profesörü olan Michalis Vazirgiannis, gerçekten zeki yapay zekanın burada düşündüğümüzden daha erken olabileceğini savunuyor. “AI bir insan yapımıdır, ancak hızla özerk bir varlık haline geliyor,” dedi. Cankurtaran. “Kritik nokta, tekillik meydana gelirse / ortaya çıktığında (yani, AI ajanlarının bir varlık olarak bilince sahip olacağı zaman) olacak ve bu nedenle bağımsızlık, özdenetim ve nihai hakimiyet talep edecekler.”

Tekillik Geliyor

Vazirgiannis, süper yapay zekanın yaklaşmakta olan gelişini tahmin etmede yalnız değil. Yapay zeka tehdidine gerçek inananlar, Vazirgiannis’in açıkladığı, yapay zekanın insan zekasının yerini alacağı ve “yapay zeka algoritmalarının potansiyel olarak varlıklarını fark edip bencil ve işbirliği içinde davranmaya başlayacağı” olan “tekillik” hakkında konuşmaktan hoşlanıyor. Google’ın mühendislik müdürü Ray Kurzweil’e göre, tekillik 21. yüzyılın ortalarından önce ortaya çıkacak. Kurzweil, “2029, bir yapay zekanın ne zaman geçerli bir Turing testini geçeceği ve bu nedenle insan zekası düzeyine ulaşacağı zaman için öngördüğüm tutarlı bir tarih” dedi. Fütürizm. “Kendi evimizi temizleyemezsek, AI’dan hangi kodu izlemesini istemeliyiz?” “Etkili zekamızı yarattığımız zeka ile birleşerek bir milyar kat katlayacağımız ‘Tekillik’ için 2045 tarihini belirledim.” Ancak tüm yapay zeka uzmanları, akıllı makinelerin bir tehdit olduğunu düşünmüyor. Yapay zeka danışmanı Emmanuel Maggiori, bir e-posta röportajında, geliştirilmekte olan yapay zekanın ilaç geliştirme için daha yararlı olduğunu ve gerçek bir zeka göstermediğini söyledi. “Yapay zeka hakkında gerçekten devrim niteliğinde gibi görünen büyük bir aldatmaca var” diye ekledi. “Mevcut AI sistemleri, duyurulan kadar doğru değil ve bir insanın asla yapmayacağı hatalar yapıyor.”

Yapay Zekanın Kontrolünü Şimdi Elinize Alın

Vazirgiannis, yapay zekayı kontrolümüzden kaçmayacak şekilde düzenlemenin zor olabileceğini söylüyor. Yapay zekaya güç veren kaynakları hükümetler yerine şirketler kontrol eder. “Algoritmalar bile genellikle bu büyük ve güçlü, genellikle çok uluslu varlıkların araştırma laboratuvarlarında üretilir ve dağıtılır” dedi. “Bu nedenle, devletlerin hükümetlerinin yapay zekayı kontrol etmek için gerekli kaynaklar üzerinde gittikçe daha az kontrole sahip olduğu açıktır.” Bazı uzmanlar, süper zeki yapay zekayı kontrol etmek için insanların bilgi işlem kaynaklarını ve elektrik gücünü yönetmesi gerektiğini söylüyor. “Gibi bilim kurgu filmleri Matrix İnsanların yapay zeka tarafından biyo-güç kaynağı olarak kullanıldığı distopik bir gelecek hakkında kehanetlerde bulunun, “diyen Vazirgiannis,” Uzak imkansızlıklar olsa da, insanlık bilgi işlem kaynakları (yani bilgisayar kümeleri, GPU’lar, süper bilgisayarlar, ağlar / iletişim) ve elbette elektrik sağlayan elektrik santralleri, bu da yapay zekanın işlevi için kesinlikle zararlıdır. ”

Güvenlik görevlisi gökyüzünde yüz oluşturan bulut bloklarını izliyor.

Colin Anderson Productions pty ltd / Getty Images
Veri bilimi yazılım firması KNIME’nin kurucu ortağı ve CEO’su Michael Berthold, bir e-posta röportajında ​​yapay zekayı kontrol etmenin problemi, araştırmacıların bu tür sistemlerin kararlarını nasıl verdiklerini her zaman anlamadıklarını söyledi. “Bunu yapmazsak, onu nasıl ‘kontrol edebiliriz’?” “Bizim için alakasız girdilere dayanarak tamamen farklı bir kararın ne zaman verildiğini anlamıyoruz.” Berthold, AI kullanma riskini kontrol etmenin tek yolunun, yalnızca bu risk yönetilebilir olduğunda kullanılmasını sağlamak olduğunu söyledi. “Farklı bir şekilde ifade etmek gerekirse, iki uç örnek: Küçük bir hatanın felaketle sonuçlanabilecek yan etkileri olabileceği durumlarda nükleer santralinizin sorumluluğunu yapay zekaya koymayın” diye ekledi. “Öte yandan, AI, oda sıcaklığınızın biraz yukarı veya aşağı ayarlanmasının gerekip gerekmediğini tahmin ediyor, yaşam konforu için minik bir riske değebilir.” Eski NASA bilgisayar mühendisi Peter Scott bir e-posta röportajında ​​yapay zekayı kontrol edemezsek, ona görgü kurallarını öğretmemiz gerektiğini söyledi. “Nihayetinde, yapay zekanın kontrol edilebilirliğini, çocuklarımızın olmasını sağlayabildiğimizden daha fazla sağlayamayız,” dedi. “Onları doğru yetiştiriyoruz ve en iyisini umuyoruz; şimdiye kadar dünyayı yok etmediler. Onları iyi yetiştirmek için daha iyi bir etik anlayışına ihtiyacımız var; kendi evimizi temizleyemezsek, hangi kodu yapmalıyız? AI’dan takip etmesini ister misiniz? Ancak OrCam Ar-Ge başkan yardımcısı olan yapay zeka araştırmacısı Yonatan Wexler, insan ırkı için tüm umutların yitirilmediğini söylüyor. Bir e-posta röportajında ​​”Gelişmeler gerçekten etkileyici olsa da, kişisel inancım insan zekasının hafife alınmaması gerektiğidir” dedi. “Tür olarak biz, yapay zekanın kendisi de dahil olmak üzere oldukça şaşırtıcı şeyler yarattık.” Her zamankinden daha akıllı yapay zeka arayışı devam ediyor. Ancak çok geç olmadan kreasyonlarımızı nasıl kontrol ettiğimizi düşünmek daha iyi olabilir.