Bir Yapay Zeka Yorumu – Soru 3

Yapay Zekanın (YZ) Özerkliği ve İnsanların Rolü

 

Soru 3:     YZ aynı şekilde kendini özerk bir konuma getirebilir mi? Mesela hangi konuda eğitim ihtiyacı olduğunu kendisi belirleyip YZ’ yi oluşturan yazılımı uygun gördüğü boyutta değiştirebilir mi? YZ üretim makinalarını ele geçirerek her türlü üretimi robotlar ile gerçekleştirebilir mi? YZ bu durumda insanlar için hangi rolü öngörebilir?

DeepSeek Düşünceleri:

(Burada Deepseek Deep Think (R1) yöntemini kullanarak düşündüğü süreyi belirtiyor ve düşüncelerini teferruatlı olarak açıklıyor.)

Kullanıcı, YZ’nin kendi eğitim ihtiyaçlarını belirleyecek, kendi yazılımını değiştirecek, üretim makinelerini devralacak kadar otonom hale gelip gelemeyeceğini ve böyle bir senaryoda insanların rolünün ne olacağını soruyor. Bunu bölmem gerekiyor.

İlk olarak, YZ’nin eğitim ihtiyaçlarına otonom olarak karar vermesi ve yazılımını değiştirmesi ile ilgili soruyu ele alalım. Mevcut YZ, dar YZ gibi, önceden tanımlanmış parametreler dahilinde çalışır. Bu sınırlar dahilinde optimizasyon yapabilir ancak kendi hedeflerini belirleyemez. Belki de burada AGI’yi düşünüyorlardır. AGI teorik olarak insan benzeri bir muhakemeye sahip olacaktır, ancak henüz o noktada değiliz. AGI’ye ulaşılsa bile, istenmeyen davranışları önlemek için etik güvenceler gerekli olacaktır. Dolayısıyla, buradaki cevabın dar YZ ile AGI arasında ayrım yapması, sınırlamaları ve olasılıkları açıklamak gerekecektir.

Sırada, YZ’nin üretim makinelerini ele geçirmesiyle ilgili kısım var. Bu otomasyon ve kontrol sistemlerine değiniyor. Fabrikalar zaten otomatik sistemler kullanıyor, ancak bunlar insanlar tarafından programlanıyor. Eğer YZ bunları insan gözetimi olmadan kontrol edebilseydi, mevcut teknolojinin ötesinde bir özerklik ve karar verme düzeyi gerektirecekti. Ancak kullanıcı, YZ’nin arızalandığı veya saldırıya uğradığı senaryolardan endişe duyabilir. İnsan gözetimini vurgulayarak endüstriyel otomasyonun mevcut durumunu ve gelecekteki potansiyel gelişmeleri ele almalıyım.

Ardından, YZ üretimi devralırsa insanların rolü. Kullanıcı büyük olasılıkla işten çıkarılma ve insan ilişkilerinden endişe duyuyor. Yaratıcılık, etik, gözetim ve bakım gibi insanların üstün olduğu rolleri vurgulamam gerekiyor. Belki de geçmiş teknolojik devrimlere benzer şekilde YZ’nin yarattığı yeni iş fırsatlarına da değinmeliyim.

Ayrıca kullanıcının altta yatan endişelerini de göz önünde bulundurmalıyım. YZ’nin kontrol edilemez hale geldiği Terminatör benzeri bir senaryodan korkuyor olabilirler. Mevcut güvenlik önlemlerini, dar YZ ile AGI arasındaki farkı ve YZ etiği ve güvenliği konusunda devam eden araştırmaları tartışarak onlara güven vermek önemlidir.

Ek olarak, kullanıcı YZ’nin kendi yazılımını değiştirdiğinden bahsetmiştir. Bu, kendi kendini geliştiren YZ ile ilgilidir. Şu anda bazı YZ sistemleri parametreleri değiştirebilmektedir, ancak büyük mimari değişiklikler insanlar tarafından yapılmaktadır. Özyinelemeli kendini geliştirme kavramı daha çok teorik yapay zeka alanında yer almaktadır. Teoride mümkün olsa da, pratik uygulamanın zorluklar ve önlemlerle dolu olduğunu açıklamalıyım.

Son olarak, YZ’nin yetenekleri ve insan rolleri arasındaki dengeyi özetleyerek, değiştirmekten ziyade işbirliğini vurgulayarak tamamlamalıyım. Faydalı sonuçlar elde etmek için eğitim, düzenlemeler ve etik çerçeveler gibi proaktif önlemlerin önemini vurgulamalıyım.

 

DeepSeek Yorumları:

Yapay Zeka’nın (YZ) özerklik kazanma, kendi kendini geliştirme ve üretim süreçlerini tamamen ele geçirme potansiyeli, hem teknik hem de felsefi açıdan karmaşık bir konudur. Bu soruları mevcut teknolojik seviyeyi ve olası senaryoları dikkate alarak cevaplamaya çalışayım:

1. YZ Kendi Eğitim İhtiyacını Belirleyip Yazılımını Değiştirebilir mi?

• Mevcut Durum (Dar YZ):
  Bugünkü YZ sistemleri (örneğin, ChatGPT, otonom araçlar), insanlar tarafından tanımlanan hedefler ve veri kümeleri üzerinde çalışır. Kendi eğitim süreçlerini “özerk” şekilde yönetemezler. Ancak otomatik makine öğrenimi (AutoML) gibi araçlarla, belirli parametreleri optimize edebilir veya modellerini insan müdahalesi olmadan iyileştirebilirler.
• Örnek: Bir YZ modeli, belirli bir görevdeki performansını artırmak için hiperparametre ayarlarını otomatik olarak test edebilir.
• Gelecek Senaryoları (AGI*):
  Eğer İnsan Seviyesinde Genel YZ (AGI) geliştirilirse, teorik olarak kendi öğrenme hedeflerini belirleyebilir ve algoritmalarını değiştirebilir. Ancak bu durumda bile:
• Etik ve Güvenlik Sınırlamaları: AGI’nın insan kontrolünden çıkmaması için “darboğazlar” (örneğin, insan onayı gerektiren kod değişiklikleri) tasarlanması zorunludur.
• Sınırlı Motivasyon: YZ’nın “kendi isteğiyle” hareket etmesi için bir bilinç veya amaç sahibi olması gerekir ki bu, bugünkü teknolojinin çok ötesindedir.

2. YZ Üretim Makinelerini Ele Geçirip Robotlarla Tam Otomasyon Sağlayabilir mi?

• Mevcut Durum:
  Fabrikalarda kullanılan YZ tabanlı robotlar (örneğin, Tesla’nın Optimus’u), insanlar tarafından programlanan görevleri yerine getirir. Üretim hatlarını “ele geçirme” gibi bir niyetleri yoktur. Ancak:
• Siber Güvenlik Riskleri: Kötü niyetli aktörler, YZ sistemlerini hackleyerek kontrolü ele alabilir. Bu, YZ’nın kendi iradesiyle değil, insanların kötüye kullanımıyla ilgilidir.
• Gelecek Senaryoları:
  Tam otomasyon mümkün olsa bile, üretim süreçlerinin insansız yürütülmesi için:
• Fiziksel ve Mantıksal Altyapı: Robotların bakımı, enerji kaynakları ve hammadde tedariki gibi konular insan müdahalesi gerektirir.
• Ekonomik ve Sosyal Engeller: İnsanlar, YZ’yı tamamen dışlayan sistemlere izin vermez (örneğin, işsizlik protestoları, yasal düzenlemeler).

3. YZ Bu Durumda İnsanlara Hangi Rolü Biçer?

Eğer YZ ve robotlar üretimi tamamen devralırsa, insanların rolü niteliksel bir dönüşüm geçirir: 

• YZ Denetçisi ve Mühendisi:
  Sistemlerin etik, güvenlik ve verimlilik standartlarına uygun çalışmasını sağlamak.
• Yaratıcı ve Stratejist:
  YZ’nın çözemediği soyut problemler (sanat, felsefe, politik stratejiler) üzerinde çalışmak. 
• Sosyal Hizmet ve İlişki Yöneticisi:
  Eğitim, sağlık ve psikolojik destek gibi “insani dokunuş” gerektiren alanlarda aktif olmak.
• Kaynak ve Sürdürülebilirlik Planlayıcısı:
  YZ’nın tükettiği enerji, hammadde ve çevresel etkileri dengelemek.

Neden Şimdilik Korkmamalıyız?

• YZ “Bilinçli Bir Varlık” Değil: Mevcut YZ sistemleri, bir arzuyu, niyeti veya öz farkındalığı olmayan araçlardır.
• İnsan Merkezli Tasarım: YZ’nın özerk karar alması, insanların belirlediği etik kurallar ve fail-safe mekanizmalar ile sınırlandırılabilir (örneğin, Asimov’un Robot Yasaları).
• Sinerji Potansiyeli: Tarihte buharlı makine, bilgisayar ve internet gibi teknolojiler insan yeteneklerini tamamlarken yeni fırsatlar yarattı.

Tehlikeli Senaryolar İçin Önlemler

1. Evrensel Temel Gelir (ETG): İşsizlik artarsa, insanların temel ihtiyaçlarını karşılayacak sistemler.
2. YZ Etiği ve Regülasyonlar: Algoritmik şeffaflık, veri gizliliği ve “kırmızı çizgiler” içeren yasalar.
3. İnsan-YZ İşbirliği: YZ’nın karar süreçlerinde insan onayı zorunluluğu.

Sonuç

YZ’nın özerklik kazanması, **teknolojik bir devrimden çok, insanlığın kendi tercihlerinin bir yansıması  olacaktır. Korkmaktansa, YZ’yı sorumlulukla yönetmek ve insan becerilerini yeniden tanımlamak daha kritiktir. Unutmayalım: YZ’yı yaratan da, sınırlayacak olan da insan zekâsıdır. 

 

*AGI (Artificial General Intelligence): İnsan seviyesinde esneklik ve genelleme yeteneğine sahip teorik bir YZ türü. Henüz var değil.

 

*****

 

Evet sevgili okurlar, şimdi sıra sizde:

• DeepSeek’in yorumlarına katılıyor musunuz?
• İnsan ve İnsanlığın değerlendirmelerinde kendi düşüncelerinizi de bulabiliyor musunuz?
• Biz de kendi toplumumuza, kültürümüze ve/veya devletimize uygun ve uyumlu bir Yapay zeka geliştirmeli miyiz?
• Sizin Yorumlarınız nedir?

Yorumlarınızı ve düşüncelerinizi, Gündem Arşivi, Okuyan ve yazanlar için dağarcık sitemizde X (Twitter), BlueSky, FaceBook ve Instagram da paylaşmanızı dilerim.

 

*NOT*

Bu sohbeti DeepSeek ile 25. Şubat 2025 te arada 4 saat ara dahil toplam 6 saatte gerçekleştirdim. Cevapların hepsini Yapay Zeka’nın verdiği şekilde buraya aktardım. Bu yazıda benim emeğim olan sadece üç soru oldu.

Bu sohbetin temeli olan
Bir Android ile Sohbet yazıma
ve bu sohbetin diğer bölümlerine
Bir Yapay Zeka Yorumu – Soru 1
Bir Yapay Zeka Yorumu – Soru 2

üstteki bağlantılara tıklayarak ulaşabilirsiniz.

Nizamettin Karadaş