Kısa Kısa — Korkmamız Gereken Şey Yapay Zeka mı?

Photo by Markus Winkler on Unsplash

Yapay zekanın asıl problemi ne bilinç kazanması ne de bize karşı ayaklanması. Asıl problem, bizim hız sarhoşluğuyla ona verdiğimiz yetkiler. Bu yetkiler büyüdükçe sistemler kontrolsüz şekilde ölçekleniyor ve işin görünmeyen bedeli ortaya çıkıyor.

Enerji tüketimi burada sadece teknik bir detay değil; düşünmeden büyüttüğümüz her sistem arkasında gerçek kaynakları tüketiyor: elektrik, donanım, zaman ve insan emeği. Gücü verirken sınırı koymazsan, maliyeti de fark etmeden üstlenmiş oluyorsun.

Felsefi olarak bakarsak mesele makinenin akıllanması değil, insanın sorumluluktan kaçma eğilimi. “Bırakalım yapsın” dediğimiz her noktada karar alma yükünü devrediyoruz. Mantıksal olarak da bu sürdürülebilir değil; kontrol etmediğin, ölçmediğin ve bedelini üstlenmediğin bir gücü büyütmek, sonunda seni değil sistemi korur.

O yüzden korkmam gereken şey yapay zekanın fişini çekememek değil; fişi nereye taktığını bilmeden sistemi çalıştırmak. Çünkü her şeyin bir bedeli var ve o bedeli eninde sonunda biri yada birileri ödüyor.