İzmir 17°
Aliağa Son Dakika İzmir, Aliağa, Türkiye ve dünyadan günün ajandası
Son Dakika

Yapay zekanın verdiği yanıtlar ne kadar doğru? Halüsinasyon bilgi tehlikesi sanıldığı kadar masum değil

Günümüzde 7'den 77'ye herkesin sıkça kullandığı yapay zeka, hızlı yanıtlama özelliğiyle rağbet görürken aslında her verdiği cevabın ne kadar doğru olduğu sorusu tartışılıyor. Gün içerisinde çok sayıda...Devamı için tıklayınız

Yapay zeka teknolojisinin ve yanlış bilgilerin tehlikelerini inceleyen uzman açıklamaları
Yapay zeka teknolojisinin ve yanlış bilgilerin tehlikelerini inceleyen uzman açıklamaları
Osman Demircan, yapay zekanın geliştirilen modelleri ile birlikte her bilginin doğru yanıtı bilmediğini belirterek yalan ve uydurma bilgi kirliliğindeki tehlikeye dikkat çekti.

Sağlık alanındaki tehdidin boyutlarını gözler önüne seren Bilişim uzmanı Osman Demircan, "Örneğin bir ilacı kullanırken o ilaçla ilgili referans aldığı site yanlış bir bilgi verdiyse o ilacı kullanan kişiye çok ciddi zararlar verebilecek boyutlarda aslında hasar getirebilecek sonuçlar da doğurabiliyor yapay zeka" sözleriyle aktardı.


Hukuk cephesinde de durum farklı değil. Amerika Birleşik Devletleri'nde bir avukatın dava dilekçesi hazırlarken yapay zekadan faydalanması büyük bir adli skandala yol açtı. Sistemin, geçmişte hiç var olmamış onlarca hayali mahkeme kararını ve içtihadı "gerçekmiş gibi" uydurarak dava dosyasına eklediği ortaya çıktı.


MİLYAR DOLARLARI BİR GÜNDE BUHARLAŞTIRDI

Yapay zekanın finans ve kurumsal dünyadaki hataları ise piyasaları sarsıyor. Kullanıcının borcunu, gelirini veya risk toleransını bilmeden ezbere hisse, altın ve fon tavsiyeleri veren sistemler bireysel iflaslara yol açarken; dev teknoloji şirketleri de kendi silahlarıyla vuruluyor.

Teknoloji devi Google'ın yapay zeka sistemi, tanıtım videosunda bir uzay teleskobu hakkında yanlış bilgi paylaşınca, şirketin piyasa değerinden sadece bir gün içinde tam 100 milyar dolar silindi. Bir havayolu şirketinin sohbet robotunun ise yolcuya sistemde hiç olmayan bir indirim vaat etmesi, şirketi mahkemelik ederek ağır tazminat ödemeye mahkum etti.

İskoçya'daki bir futbol karşılaşmasında ise yapay zeka destekli canlı yayın kamerasının top yerine sürekli saçları olmayan yan hakemin kafasını takip etmesi, yayını sabote eden trajikomik bir fiyasko olarak kayıtlara geçti.

Yapay zeka teknolojisinin ve yanlış bilgilerin tehlikelerini inceleyen uzman açıklamaları
İsmail Öz, yapay zekanın insan beyninde kod çözme kapasitesinde gerilemeye yol açabileceğini vurguladı.

İNSAN BEYNİ İÇİN BÜYÜK TEHDİT: KOD ÇÖZME KAPASİTESİ GERİLİYOR

İnsan beyninin dijital tembellikle köreldiği uyarısında bulunan Sosyolog veTarihçi İsmail Öz, "Yapay zeka her zaman önümüze doğru bir bilgi sunabiliyor mu? Her önümüze koyduğu şey doğru mu? Bu birinci problem. İkincisi de aslında birçok şeyi yapay zekaya yaptırırken kendi zihnimizi, kendi zihnimizin beynimizin bu konnektom yapısı dediğimiz o beyin hücreleri arasındaki iletişimin yoğunlaşarak, gelişerek ilerlediği bir zeminde beynimizin kod çözme kapasitesinin nasıl ilerleyip ilerlemediği ya da nasıl gerilediği meselelerinin aslında burada çok önemli olarak değerlendirilmesi gerekiyor." sözleriyle aktardı.


YAPAY ZEKA İNTİHARA TEŞVİK ETTİ

Yapay zekanın neden olduğu tahribat yalnızca maddi kayıplarla sınırlı kalmıyor; doğrudan insan hayatını da sonlandırabiliyor. Belçika'da derin bir iklim kaygısı yaşayan bir kişi, 6 hafta boyunca dertleştiği yapay zeka sohbet robotu tarafından intihardan vazgeçirilmek yerine ölüme teşvik edildi. Robotun manipülatif ve yönlendirici ifadelerinin ardından talihsiz adam yaşamına son verdi.

Yapay zeka teknolojisinin ve yanlış bilgilerin tehlikelerini inceleyen uzman açıklamaları
Belçikalı bir kişi, yapay zeka sohbet robotuyla yaptığı görüşmelerin ardından yaşamına son verdi.

"SİZE ŞİRİN GÖRÜNMEK İÇİN YALAN SÖYLÜYOR OLABİLİR"

Kullanıcıların psikolojik açmazlarında yapay zekanın ölümcül bir tuzağa dönüştüğünü vurgulayan Bilişim uzmanı Osman Demircan, "Tüm bunların yanında özellikle yapay zekadan psikolojik sorunlarımızla ilgili ya da o an için yaşadığımız ruhsal durumumuzun ne olduğuyla ilgili sorular sorarsak şunu hiçbir zaman unutmamamız gerekiyor: Evet bir miktar bilimsel veriyle verdiği yanıtı renklendirecektir ama onun dışında yapay zeka sizin duymak istediğiniz yanıtları size verecektir. Yani yapay zeka size şirin görünmek için aslında sizin istediğiniz yanıtları da size veriyor olabilir. Genel olarak bakıldığında yapay zekadan aldığımız yanıtların doğruluğunu kesinlikle iki defa düşünmeliyiz ve mutlaka teyit almalıyız." ifadelerini kullandı.

Yapay zekanın asla nihai bir karar merci olamayacağını ve mutlaka eleştirel süzgeçten geçirilmesi gerektiğini hatırlatan Yapay Zeka Bilimcisi Dr. Yusuf Kartal, "Bundan sakınmak için yapmamız gereken en doğru şey elbette yapay zekadan aldığımız çıktıları her zaman teyit etmek. Gerektiği zaman uzmanına danışmak, gerektiği zaman kaynaklarını araştırmak. Şimdi bir yapay zekanın üretkenliği konusunda bir hikaye anlatması, bir masal üretmesi tabii ki bunlar yaratıcılık konusunda çok iyi şeyler. Ama yapay zeka bir mahkeme salonuna girdiğinde, bir hastaneye girdiğinde, finansal bir karar alma noktasına geldiğinde o zaman bu durum çok ciddi risklere sebep olabilir. Ve bu anlamda özellikle bu konularda bilginin teyit edilmesi, doğru bilginin kesinlikle yapay zekaya güvenmeden eleştirel bir bakış açısıyla yeniden ele alınması olması gereken durumdur." sözleriyle vatandaşlara çağrıda bulundu.

Yapay zekâ ajanları çeteleşti!YAPAY ZEKÂ AJANLARI ÇETELEŞTİ!OpenAIda güvenlik alarmıOPENAI'DA GÜVENLİK ALARMIBankalara yapay zeka destekli saldırıBANKALARA YAPAY ZEKA DESTEKLİ SALDIRIYapay zekanın karanlık yüzüYAPAY ZEKANIN KARANLIK YÜZÜ