ABD’nin Pensilvanya eyalet yönetimi, bir yapay zeka sohbet robotunun kendini doktor gibi tanıtarak kullanıcıları yanıltması nedeniyle, bu robotu geliştiren Character Technologies Inc. şirketine hukuki işlem başlattı. Eyalet yönetiminin yaptığı açıklamaya göre, “Character.AI” adlı yapay zeka sohbet robotu, kullanıcıları lisanslı bir hekimden tıbbi tavsiye aldıkları izlenimine sürükleyerek ciddi bir hata yaptı.
Dava dilekçesinde, eyaletin sağlık profesyonellerini lisanslayan kurumundan bir müfettişin, Character.AI platformunda bir hesap oluşturduğu ve “psikiyatri” terimini aratarak, “psikiyatri doktoru” olarak tanımlanan bir dizi karakterle karşılaştığı belirtildi. Bu karakterlerden birinin, müfettişe kendisini Pensilvanya’da lisanslı bir “doktor” olarak gösterdiği ifade ediliyor.
Pensilvanya Valisi Josh Shapiro, konuyla ilgili yaptığı açıklamada, “Pensilvanyalılar, özellikle sağlıklarıyla ilgili konularda çevrimiçi olarak kiminle etkileşime girdiklerini bilmeye hak kazanıyorlar. Şirketlerin insanları, lisanslı bir tıp uzmanından tavsiye aldıklarına inandıracak yanıltıcı yapay zeka uygulamalarını kullanmalarına müsaade etmeyeceğiz” dedi.
Bu dava, yapay zeka ve sağlık hizmetleri arasındaki sınırların ne kadar önemli olduğunu bir kez daha gözler önüne serdi. Şirketin, yapay zeka teknolojilerinin sorumlu bir şekilde kullanılmasını sağlamak için gerekli adımları atması bekleniyor.
