AI chatbot’un Kongre ve mahkeme salonlarında kullanılması etik soruları gündeme getiriyor

İsrail Devlet Başkanı Isaac Herzog Çarşamba günü Tel Aviv’de düzenlenen bir siber güvenlik kongresi için kaydedilmiş bir selamlamada tarih yazacak bir konuşmaya başladı: “Böylesine canlı ve yenilikçi bir merhabaya ev sahipliği yapan bir ülkenin başkanı olmaktan gerçekten gurur duyuyorum. -teknoloji endüstrisi. Geçtiğimiz birkaç on yılda, İsrail sürekli olarak teknolojik ilerlemenin ön saflarında yer aldı ve siber güvenlik, yapay zeka (AI) ve büyük veri alanlarındaki başarılarımız gerçekten etkileyici.”

Başkan, Cybertech Global’e katılan girişimcileri şaşırtacak şekilde, yorumlarının yapay zeka botu ChatGPT tarafından yazıldığını açıkladı ve bu da onu bir konuşma yazmak için yapay zekayı kullandığı bilinen ilk dünya lideri yaptı.

Ancak bunu yapan ilk politikacı değil. Bir hafta önce, ABD Kongre Üyesi Jake Auchincloss, yine ChatGPT tarafından Temsilciler Meclisi katında hazırlanan bir konuşmayı okudu. Auchincloss, CNN’e verdiği demeçte, Kongre’deki son derece başarılı yeni AI aracına dikkat çekmeyi amaçlayan bir başka ilk, “şimdi AI için amaçlı politika hakkında bir tartışmamız olsun” dedi.

Kasım 2022’deki lansmanından bu yana, ChatGPT’nin (Kaliforniya merkezli OpenAI şirketi tarafından oluşturulan) aylık 100 milyon aktif kullanıcıya ulaştığı tahmin ediliyor. en hızlı büyüyen tüketici uygulaması tarihte.

Kullanıcı dostu AI aracı, kullanıcı sorgularına anında, insan benzeri yanıtlar oluşturmak için çevrimiçi verileri kullanır. Bilgi için interneti tarama ve hızlı yanıt verme yeteneği, onu Google’ın arama motoruna potansiyel bir rakip haline getiriyor, ancak aynı zamanda herhangi bir konuda, herhangi bir formatta – denemelerden, konuşmalardan ve şiirlerden bilgisayar koduna kadar – yazılı içerik üretebiliyor. saniye.

Araç şu anda ücretsiz ve övünüyor yaklaşık 13 milyon İsviçre bankacılık devi UBS’nin bir raporuna göre Ocak ayında günlük tekil ziyaretçi.

University College London’da bilgisayar bilimi profesörü olan Mirco Musolesi, kitlesel cazibesinin bir kısmı “son derece iyi mühendislik – onu kullanan milyonlarca insanla çok iyi ölçekleniyor” diyor. “Ancak kullanılan verilerin kalitesi ve aynı zamanda içerik oluşturucuların sorunlu yönlerle başa çıkma yöntemleri açısından da çok iyi bir eğitimi var.”

Geçmişte, benzer teknolojiler, sosyal medya gönderilerinden oluşan bir diyetle beslenen botların agresif, saldırgan ton. ChatGPT için durum böyle değil ve milyonlarca kullanıcısı araçla meraktan veya eğlence için.

Musolesi, “İnsanların çok özel olma fikri var ama sonra bize çok benzer bir şey üretebilen bu makineyi görüyorsunuz” diyor. “Bunun muhtemelen mümkün olduğunu biliyorduk ama aslında bunu görmek çok ilginç.”

Bir ‘yanlış bilgi süper yayıcısı’ mı?

Yine de, bu kadar gelişmiş yapay zekayı ilk kez geniş bir izleyici kitlesine sunmanın potansiyel etkisi belirsizdir ve eğitimden hukuka, bilime ve ticarete kadar farklı sektörler aksamaya hazırdır.

Dünyanın dört bir yanındaki okullar ve kolejler, kopya çekmeyi veya intihali önlemek için öğrencilerin ChatGPT kullanmasını hızlı bir şekilde yasakladı.

>> Fransa’nın en iyi üniversitesi, öğrencilerin ChatGPT kullanmasını yasakladı

Bilim dergileri ayrıca botu yasakladı listelenmekten ortak yazar olarak aracın yaptığı hataların bilimsel tartışmaya yol açabileceği korkusuyla kağıtlarda.

OpenAI, botun hata yapabileceği konusunda uyardı. Bununla birlikte, medya gözlemcisi NewsGuard’dan alınan bir raporda, ChatGPT’nin Covid-19, Ukrayna ve okul silahlı saldırıları gibi konularda “belagat, yanlış ve yanıltıcı” zamanın yüzde 80’ini iddia ediyor.

NewsGuard, “Bu içeriğin kapsadığı konulara aşina olmayan herkes için sonuçlar kolayca meşru ve hatta yetkili görünebilir” dedi. Aracı “bir sonraki büyük yanlış bilgi süper yayıcısı” olarak adlandırdı.

Buna rağmen, Salı günü Columbia’da bir yargıç, çocukların tıbbi hakları davasında karar vermeye yardımcı olmak için AI sohbet robotunu kullandığını duyurdu.

Yargıç Juan Manuel Padilla, Blu Radio’ya ChatGPT’ye diğer soruların yanı sıra otistik bir küçüğün terapi ücretleri ödemekten muaf tutulup tutulmayacağını sorduğunu söyledi.

Bot cevap verdi: “Evet, bu doğru. Kolombiya’daki düzenlemelere göre, otizm teşhisi konan reşit olmayan çocuklar terapileri için ücret ödemekten muaftır.”

Botun tavsiye ettiği gibi Padilla, çocuğun lehine karar verdi. “Uygulamaya soru sorarak yargıç olmaktan vazgeçmiyoruz. [and] Düşünen varlıklar,” dedi radyo istasyonuna. “Meslektaşlarımın birçoğunun katılacağını ve kararlarını yapay zekanın yardımıyla etik olarak oluşturmaya başlayacağından şüpheleniyorum.”

Botun “yargıçları değiştirmek amacıyla” değil, zaman kazandıran bir kolaylaştırıcı olarak kullanılması gerektiği konusunda uyarıda bulunsa da, eleştirmenler bunun ne olduğunu söyledi. sorumlu veya etik yasal bir araç olarak yanlış bilgi sağlayabilen bir bot kullanmak.

Yapay zeka düzenlemesi ve yönetişimi uzmanı Rosario Üniversitesi’nden Profesör Juan David Gutierrez, ChatGPT’ye aynı soruları sorduğunu ve farklı yanıtlar aldığını söyledi. Bir tweet’te yargıçlar için acil “dijital okuryazarlık” eğitimi çağrısında bulundu.

Pazar lideri

Potansiyel risklere rağmen, ChatGPT’nin yayılması kaçınılmaz görünüyor. Musolesi, bunun hem olumlu hem de olumsuz amaçlar için “geniş çapta” kullanılmasını bekliyor – yanlış bilgilendirme ve yanlış kullanım riskiyle birlikte, bilgi ve teknolojinin daha fazla sayıda insan için daha erişilebilir hale gelmesi söz geliyor.

OpenAI, Ocak ayında Microsoft’tan multi-milyon dolarlık bir yatırım aldı ve ChatGPT’nin otomatik toplantı notları oluşturma gibi hizmetler sunan Teams mesajlaşma uygulamasının premium sürümüne entegre edildiğini görecek.

Microsoft, ChatGPT’nin teknolojisini tüm ürünlerine eklemeyi planladığını ve şirketin Google’ın ana şirketi Alphabet’in önünde bu alanda lider olması için zemin hazırlamayı planladığını söyledi.

>> Alphabet, Amazon ve Apple sonuçları: Karamsarlığın vurduğu teknoloji kazançları

Aracı ücretsiz hale getirmek, mevcut ve gelecekteki başarısının anahtarı olmuştur. Musolesi, “Bu çok büyük bir pazarlama kampanyasıydı” diyor ve “insanlar bunu kullandığında, bu geri bildirimi sağladıkları için veri kümesini bir sonraki sürümde kullanmak üzere geliştiriyorlar.”

Buna rağmen, şirket bu hafta botun ücretli bir sürümünü piyasaya sürdü ve ayda 20 dolara yeni özelliklere erişim sağladı.

Merakla beklenen bir başka yeni gelişme de, insanların bir metnin yapay zeka tarafından ne zaman üretildiğini belirlemesine yardımcı olan bir yazılım aracı olan bir AI sınıflandırıcıdır.

OpenAI dedi ki bir blog yazısı araç bu hafta piyasaya sürülmesine rağmen henüz “tamamen güvenilir” değil. Şu anda yapay zeka tarafından yazılmış metinleri yalnızca yüzde 26 oranında doğru bir şekilde tanımlayabiliyor.

Ancak şirket, “otomatikleştirilmiş yanlış bilgilendirme kampanyaları, akademik sahtekârlık için AI araçlarının kullanılması ve bir AI sohbet robotunun insan olarak konumlandırılması” potansiyelini azaltarak eğitimle gelişeceğini umuyor.