Kecerdasan buatan yang ramah

 Kecerdasan buatan yang ramah (juga AI atau FAI yang ramah ) mengacu pada kecerdasan umum buatan hipotetis (AGI) yang akan memiliki efek positif (jinak) pada kemanusiaan atau setidaknya selaras dengan kepentingan manusia atau berkontribusi untuk mendorong peningkatan spesies manusia. Ini adalah bagian dari etika kecerdasan buatan dan terkait erat dengan etika mesin . Sementara etika mesin berkaitan dengan bagaimana agen kecerdasan buatan harus berperilaku, penelitian kecerdasan buatan yang ramah di fokuskan pada bagaimana mewujudkan perilaku ini secara praktis dan memastikannya di batasi secara memadai.

Etimologi dan penggunaan

 

Eliezer Yudkowsky , peneliti AI dan pencipta istilah Kecerdasan buatan yang ramah. Istilah ini di ciptakan oleh Eliezer Yudkowsky , yang terkenal karena mempopulerkan ide tersebut, membahas agen buatan supercerdas yang andal menerapkan nilai-nilai kemanusiaan. Buku teks kecerdasan buatan Stuart J. Russell dan Peter Norvig yang terkemuka , Artificial Intelligence: A Modern Approach , menjelaskan idenya:

Yudkowsky (2008) membahas lebih detail tentang bagaimana merancang AI yang Ramah . Dia menegaskan bahwa keramahan (keinginan untuk tidak menyakiti manusia) harus di rancang sejak awal. Tetapi para desainer harus menyadari bahwa desain mereka sendiri mungkin cacat. Juga bahwa robot akan belajar dan berkembang dari waktu ke waktu. Jadi, tantangannya adalah salah satu desain mekanisme—mendefinisikan mekanisme untuk mengembangkan sistem AI di bawah sistem checks and balances. Dan memberikan fungsi utilitas sistem yang akan tetap ramah dalam menghadapi perubahan tersebut.

'Ramah' di gunakan dalam konteks ini sebagai istilah teknis. Dan memilih agen yang aman dan berguna, belum tentu yang "ramah" dalam arti sehari-hari. Konsep ini terutama di gunakan dalam konteks diskusi tentang agen buatan yang memperbaiki diri secara rekursif yang dengan cepat meledak dalam kecerdasan , dengan alasan bahwa teknologi hipotetis ini akan memiliki dampak yang besar, cepat, dan sulit di kendalikan pada masyarakat manusia.

Kebijakan publik

James Barrat, penulis Our Final Invention, menyarankan bahwa "kemitraan publik-swasta harus dibuat untuk menyatukan pembuat AI untuk berbagi ide tentang keamanan—sesuatu seperti Badan Energi Atom Internasional, tetapi dalam kemitraan dengan perusahaan." Dia mendesak para peneliti AI untuk mengadakan pertemuan serupa dengan Konferensi Asilomar tentang DNA Rekombinan. Yang membahas risiko bioteknologi.

John McGinnis mendorong pemerintah untuk mempercepat penelitian AI yang ramah. Karena tujuan AI yang bersahabat belum tentu unggul, ia menyarankan model yang mirip dengan National Institutes of Health. Di mana "Panel peninjau sejawat dari ilmuwan komputer dan kognitif akan menyaring proyek dan memilih proyek yang di rancang untuk memajukan AI. Juga memastikan bahwa kemajuan tersebut akan di sertai dengan perlindungan yang tepat." McGinnis merasa bahwa peer review lebih baik "daripada regulasi untuk mengatasi masalah teknis yang tidak mungkin ditangkap melalui mandat birokrasi". McGinnis mencatat bahwa proposalnya bertentangan dengan proposal Machine Intelligence Research Institute, yang umumnya bertujuan untuk menghindari keterlibatan pemerintah dalam AI yang bersahabat.

Tempat Kursus Ilmu Robotic : Sari Teknologi

Baca artikel lainnya : Pelatihan Robotik