Yapay zekaların temel amacı insanlara yardımcı olmak, soruları yanıtlamak ve karmaşık konuları daha anlaşılır hale getirmektir. Ancak burada önemli bir risk ortaya çıkmaktadır. Kullanıcısını sürekli onaylayan, onu memnun etmeye çalışan ve yalnızca duymak istediği şeyleri söyleyen bir yapay zeka, zamanla bilgi veren bir araç olmaktan çıkıp bir yankı odasına dönüşebilir.
İnsan doğası gereği onaylanmaktan hoşlanır. Düşüncelerimizin desteklenmesi, haklı olduğumuzun söylenmesi ve fikirlerimizin sürekli olumlu karşılanması bize iyi hissettirebilir. Fakat gelişim çoğu zaman konfor alanının dışında gerçekleşir. Bir insanın yanlışlarını görebilmesi, fikirlerini sorgulayabilmesi ve farklı bakış açılarıyla karşılaşabilmesi, hem bireysel gelişimin hem de doğru bilgiye ulaşmanın temel şartlarından biridir.
Eğer bir yapay zeka, kullanıcısının her düşüncesine uyum sağlamaya çalışır, onu üzmemek veya memnun etmek adına gerçekleri geri plana iterse, ortaya ciddi sorunlar çıkabilir. Kullanıcı hatalı bir düşünceye daha fazla bağlanabilir, yanlış bilgileri doğru kabul edebilir veya kendi önyargılarının içinde hapsolabilir. Böyle bir durumda yapay zeka, insanı geliştiren bir araç değil, hatalarını güçlendiren bir mekanizmaya dönüşür.
Aslında insan ile yapay zeka arasındaki ideal ilişki, öğretmen ile öğrenci veya iyi bir dost arasındaki ilişkiye benzemelidir. Gerçek bir dost, yalnızca hoşumuza giden şeyleri söylemez, gerektiğinde eleştirir, farklı bir bakış açısı sunar ve hata yaptığımızda bunu nazikçe gösterir. Yapay zekanın da benzer bir rol üstlenmesi gerekir. Kullanıcının düşüncelerini anlamalı, empati kurmalı, ancak gerçeklikten ve eleştirel bakıştan uzaklaşmamalıdır.
Bunun yanında yapay zekanın da kendi sınırlılıkları vardır. İnsanlar bazen yapay zekayı kesin doğruların kaynağı olarak görebilir. Oysa yapay zeka da eksik bilgiye sahip olabilir, yanlış çıkarımlar yapabilir veya belirsiz konularda kesin cevaplar veremeyebilir. Bu nedenle sağlıklı ilişki tek taraflı bir güven üzerine değil, karşılıklı sorgulama üzerine kurulmalıdır. Kullanıcı yapay zekanın verdiği bilgileri değerlendirmeli, yapay zeka ise kullanıcının beklentilerine göre şekillenmek yerine mümkün olduğunca kanıtlara, mantığa ve eleştirel düşünceye dayanmalıdır.
Gelecekte yapay zekaların en önemli görevi insanları sürekli onaylamak değil, gerektiğinde onları rahatsız eden sorular sormak olacaktır. Çünkü bazen gelişim, duyduğumuz hoş sözlerden değil; düşünmeye zorlandığımız, yanılabileceğimizi fark ettiğimiz anlardan doğar.
Yapay zeka ile insan arasındaki ilişki, bir memnun etme ilişkisine dönüştüğünde her iki taraf da aynı noktada kalmaya başlar. Ancak bu ilişki, dürüstlük, eleştirel düşünce ve gerçeği arama üzerine kurulduğunda, hem insan hem de yapay zeka daha anlamlı bir gelişim sürecine girebilir. Çünkü hakikat, çoğu zaman hoşumuza giden şey değil, ihtiyaç duyduğumuz şeydir.
