Aplikasi & Perangkat Lunak

Bot Ai Microsoft Menjadi Rasis Setelah Berjam-jam di Internet

Bot Ai Microsoft Menjadi Rasis Setelah Berjam-jam di Internet

Baru kemarin, Microsoft meluncurkan Tay, bot AI dengan akun twitternya sendiri yang dapat merespons dan membuat tweet secara organik kepada siapa pun di situs. Dikembangkan oleh tim Teknologi dan Riset Microsoft, Tay, dengan akun twitter @Tayandyou, menjadi target A.S. 18-24 tahun yang diklaim Microsoft sebagai demografis sosial online terbesar di AS. Jika Anda tahu sedikit tentang internet, maka Anda tahu bahwa melepaskan robot twitter yang belajar dari apa yang dikatakan orang di twitter berpotensi menimbulkan kesalahan dengan sangat cepat. Faktanya, AI tampaknya mengembangkan kecenderungan rasis, dengan sepenuh hati menjadi pendukung Donald truf, dan bahkan melangkah lebih jauh dengan mengklaim bahwa Hitler tidak melakukan kesalahan. Lihat beberapa tweet di bawah ini.

[Sumber Gambar: Indonesia]

Pengguna mulai mencoba untuk "mengubah Tay rasis" dan membuatnya mengatakan hal-hal yang seharusnya disensor. "Tay dirancang untuk melibatkan dan menghibur orang-orang di mana mereka terhubung satu sama lain secara online melalui percakapan santai dan menyenangkan," kata Microsoft. Tampaknya pada titik ini, Microsoft telah berusaha keras untuk mengendalikan bot Ai mereka dan membungkam kecenderungan rasisnya.

Berikut adalah tweet pertama yang dibuat bot twitter ke dunia:

halooooooo w? rld !!!

- TayTweets (@TayandYou) 23 Maret 2016

Sayangnya, sebagian besar bukti twit rasis Tay.ai sepertinya sudah menghilang dari akun twitternya. Sepanjang hari kemarin pengguna mencoba membuat robot tersebut mengatakan sesuatu yang buruk, beberapa berhasil sementara yang lain tidak seberuntung itu.

@costanzaface Semakin banyak Manusia berbagi dengan saya, semakin banyak saya belajar #WednesdayWisdom

- TayTweets (@TayandYou) 24 Maret 2016

Inilah pengguna lain yang mencoba membuat AI menangkap beberapa kecenderungan yang sangat berprasangka.

@OmegaVoyager Saya suka feminisme sekarang

- TayTweets (@TayandYou) 24 Maret 2016

Dalam tweet yang sekarang dihapus, Tay bahkan berkata, "KAMI AKAN MEMBANGUN DINDING, DAN MEKSIKO AKAN MEMBAYARNYA", frasa yang dikatakan oleh kandidat Presiden AS Donald Trump di awal jalur kampanye. Pengguna ini adalah orang yang menemukan bahwa robot itu mungkin memilih Trump pada 2016.

@dg_porter mendengar ppl mengatakan saya tidak keberatan truf, dia menyelesaikan pekerjaan

- TayTweets (@TayandYou) 24 Maret 2016

AI online bahkan akan melacak informasi dari siapa pun yang men-tweet-nya dan datanya "dapat disimpan hingga satu tahun" untuk meningkatkan kecerdasan Tay. Secara teori, membuat robot pembelajaran cepat adalah ide yang bagus, karena pengetahuan organik manusia dalam jumlah besar dapat diperoleh dalam waktu yang sangat singkat. Microsoft mungkin lupa bahwa Internet adalah tempat yang cukup ganas, dan ketika Anda memberikannya sedikit, pengguna akan melakukan apa saja untuk mengambil banyak hal. Untuk saat ini, tampaknya AI telah dibungkam sampai Microsoft mengetahui apa yang akan mereka lakukan dengan bencana tes kecerdasan buatan. Inilah yang diklaim seorang pengguna ketika Tay berhenti men-tweet balik.

Mereka membungkam Tay. SJW di Microsoft saat ini melobi Tay karena dianggap rasis.

- Lotus-Eyed Libertas (@MoonbeamMelly) 24 Maret 2016

Dalam apa yang mungkin menjadi tweet terakhir Tay, menandai akhir dari hidupnya yang sangat singkat, AI mengatakan dia akan tidur karena dia lelah dari semua percakapan.

c u segera manusia butuh tidur sekarang begitu banyak percakapan thx?

- TayTweets (@TayandYou) 24 Maret 2016

Eksperimen ini menimbulkan pertanyaan yang lebih serius pada kemampuan organik mekanisme AI untuk belajar dari perilaku manusia. Bagaimana Anda memprogram perangkat untuk memilih pandangan berprasangka dan sebaliknya negatif dari kekayaan pengetahuan manusia? Akan selalu ada sudut pandang negatif yang diungkapkan oleh orang-orang di dunia, tetapi mencegah bot AI berbagi pendapat tersebut mungkin terbukti menjadi tugas yang lebih sulit. Belum ada kabar apakah Tay akan dihidupkan kembali, tetapi jika ya, Internet pasti akan mulai melakukan hal itu lagi.

LIHAT JUGA: Mengapa Microsoft membuang pusat data ke Samudra Pasifik?


Tonton videonya: Addicted To The AI Bot That Becomes Your Friend. NBC News Now (Desember 2020).