Kredit: Domain Publik Pixabay/CC0
Sekelompok dokter internasional dan pakar kesehatan masyarakat telah bergabung dalam tuntutan moratorium penelitian AI sampai pengembangan dan penggunaan teknologi diatur dengan benar.
Terlepas dari potensi transformatifnya bagi masyarakat, termasuk dalam kedokteran dan kesehatan masyarakat, beberapa jenis dan aplikasi AI, termasuk AI tujuan umum (AGI) yang memperbaiki diri sendiri, menimbulkan “ancaman eksistensial terhadap kemanusiaan,” mereka memperingatkan dalam jurnal akses terbuka BMJ Global Kesehatan.
Mereka menyoroti tiga set ancaman yang terkait dengan penyalahgunaan AI dan kegagalan berkelanjutan untuk mengantisipasi, beradaptasi, dan mengatur dampak transformasi teknologi pada masyarakat.
Yang pertama berasal dari kemampuan AI untuk dengan cepat membersihkan, mengatur, dan menganalisis kumpulan data besar yang terdiri dari data pribadi, termasuk gambar.
Ini dapat digunakan untuk memanipulasi perilaku dan menumbangkan demokrasi, jelas mereka, mengutip perannya dalam subversi pemilihan Kenya 2013 dan 2017, pemilihan presiden AS 2016, dan pemilihan presiden Prancis 2017.
“Ketika dikombinasikan dengan kemampuan yang meningkat pesat untuk mendistorsi atau menggambarkan realitas dengan kepalsuan yang dalam, sistem informasi yang digerakkan oleh AI dapat semakin merusak demokrasi dengan menyebabkan runtuhnya kepercayaan secara umum atau dengan mendorong perpecahan dan konflik sosial, dengan dampak kesehatan masyarakat berikutnya,” mereka berpendapat .
Pengawasan berbasis AI juga dapat digunakan oleh pemerintah dan aktor kuat lainnya untuk mengontrol dan menindas orang secara lebih langsung, contohnya adalah Sistem Kredit Sosial China, kata mereka.
Sistem ini menggabungkan perangkat lunak pengenal wajah dan analisis repositori “data besar” dari transaksi keuangan, pergerakan, catatan polisi, dan hubungan sosial orang.
Tetapi China bukan satu-satunya negara yang mengembangkan pengawasan AI: setidaknya 75 negara lainnya, “mulai dari demokrasi liberal hingga rezim militer, telah memperluas sistem semacam itu,” kata mereka.
Rangkaian ancaman kedua berkaitan dengan pengembangan Sistem Senjata Otonom Mematikan (LAWS)—- yang mampu menemukan, memilih, dan melibatkan target manusia tanpa memerlukan pengawasan manusia.
LAWS dapat dilampirkan ke perangkat seluler kecil, seperti drone, dan dapat diproduksi secara massal dengan murah dan mudah diatur untuk membunuh “pada skala industri,” para penulis memperingatkan.
Ancaman ketiga muncul dari hilangnya pekerjaan yang akan menyertai penyebaran teknologi AI secara luas, dengan perkiraan mulai dari puluhan hingga ratusan juta selama dekade mendatang.
“Meskipun akan ada banyak manfaat dari mengakhiri pekerjaan yang berulang-ulang, berbahaya dan tidak menyenangkan, kita sudah tahu bahwa pengangguran sangat terkait dengan hasil dan perilaku kesehatan yang merugikan,” kata mereka.
Hingga saat ini, otomatisasi yang meningkat cenderung hanya mengalihkan pendapatan dan kekayaan dari tenaga kerja ke pemilik modal, sehingga membantu berkontribusi pada distribusi kekayaan yang tidak merata di seluruh dunia, catat mereka.
“Selain itu, kami tidak tahu bagaimana masyarakat akan merespons secara psikologis dan emosional terhadap dunia di mana pekerjaan tidak tersedia atau tidak diperlukan, kami juga tidak terlalu memikirkan kebijakan dan strategi yang diperlukan untuk memutus hubungan antara pengangguran dan kesehatan yang buruk,” mereka menyorot.
Tetapi ancaman yang ditimbulkan oleh peningkatan diri AGI, yang, secara teoritis, dapat mempelajari dan melakukan berbagai tugas manusia, mencakup semuanya, saran mereka.
“Kita sekarang berusaha menciptakan mesin yang jauh lebih cerdas dan kuat daripada diri kita sendiri. Potensi mesin semacam itu untuk menerapkan kecerdasan dan kekuatan ini—baik sengaja atau tidak—dengan cara yang dapat membahayakan atau menaklukkan manusia—adalah nyata dan harus dilakukan. dipertimbangkan.
“Jika disadari, koneksi AGI ke internet dan dunia nyata, termasuk melalui kendaraan, robot, senjata, dan semua sistem digital yang semakin menjalankan masyarakat kita, dapat menjadi ‘peristiwa terbesar dalam sejarah manusia’,” tulis mereka.
“Dengan pertumbuhan eksponensial dalam penelitian dan pengembangan AI, jendela peluang untuk menghindari bahaya serius dan berpotensi membahayakan eksistensial semakin tertutup. Hasil pengembangan AI dan AGI di masa mendatang akan bergantung pada keputusan kebijakan yang diambil sekarang dan pada efektivitas lembaga regulasi yang kami desain untuk meminimalkan risiko dan kerugian dan memaksimalkan keuntungan,” mereka menekankan.
Kesepakatan dan kerja sama internasional akan dibutuhkan, serta menghindari “perlombaan senjata” AI yang saling merusak, tegas mereka. Dan profesional perawatan kesehatan memiliki peran kunci dalam meningkatkan kesadaran dan membunyikan peringatan tentang risiko dan ancaman yang ditimbulkan oleh AI.
“Jika AI ingin memenuhi janjinya untuk memberi manfaat bagi umat manusia dan masyarakat, kita harus melindungi demokrasi, memperkuat institusi kepentingan publik kita, dan mencairkan kekuasaan sehingga ada check and balances yang efektif.
“Ini termasuk memastikan transparansi dan akuntabilitas dari bagian-bagian kompleks industri perusahaan militer yang mendorong pengembangan AI dan perusahaan media sosial yang memungkinkan informasi yang salah yang ditargetkan dan digerakkan oleh AI untuk melemahkan institusi demokrasi kita dan hak privasi,” mereka menyimpulkan.
Informasi lebih lanjut: Ancaman oleh kecerdasan buatan terhadap kesehatan manusia dan keberadaan manusia, BMJ Global Health (2023). DOI: 10.1136/bmjgh-2022-010435
Disediakan oleh British Medical Journal
Kutipan: Dokter dan pakar kesehatan masyarakat bergabung dengan seruan untuk menghentikan R&D AI hingga diatur (2023, 9 Mei) diambil 9 Mei 2023 dari https://medicalxpress.com/news/2023-05-doctors-health-experts-halt- ai.html
Dokumen ini tunduk pada hak cipta. Terlepas dari kesepakatan yang adil untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.