faseberita.id – Dunia teknologi global tengah dikejutkan oleh pengakuan jujur sekaligus mencemaskan dari Anthropic, perusahaan pengembang kecerdasan buatan (AI) ternama di balik model Claude. Dalam dokumen prospektus persiapan penawaran umum perdana saham atau Initial Public Offering (IPO), perusahaan ini secara terbuka memperingatkan adanya risiko "eksistensial" yang mungkin ditimbulkan oleh teknologi AI yang mereka kembangkan sendiri.
Pengakuan ini menjadi sangat tidak biasa, mengingat Anthropic tengah bersiap melantai di bursa saham dengan valuasi fantastis yang diperkirakan menyentuh angka US$2 triliun. Alih-alih hanya menonjolkan potensi keuntungan, Anthropic justru memberikan peringatan keras mengenai dampak katastrofik yang bisa dialami oleh umat manusia akibat perkembangan AI yang terlalu canggih.
Selain ancaman terhadap peradaban, Anthropic juga menyoroti betapa rentannya bisnis mereka terhadap kebijakan pemerintah. Dalam dokumen yang dikutip dari laporan Reuters tersebut, perusahaan menekankan bahwa sikap pemerintah terhadap teknologi mereka dapat memberikan dampak domino yang luas. Hal ini tidak hanya memengaruhi hubungan dengan pelanggan komersial dan mitra bisnis, tetapi juga dapat merusak reputasi perusahaan di mata publik.
Meskipun Anthropic menyatakan bahwa pendapatan dari kontrak pemerintah saat ini masih sangat kecil, yakni di bawah 1 persen dari total pendapatan tahunan, mereka tetap waspada. Perusahaan mencatat bahwa interaksi dengan otoritas pemerintah AS di masa lalu, seperti pembatasan operasional model AI mereka oleh Departemen Perdagangan, bisa saja terulang kembali. Langkah-langkah regulasi semacam ini, menurut Anthropic, dapat memicu pemberitaan negatif yang merusak citra perusahaan di mata dunia.
Situasi ini terjadi di tengah meningkatnya ketegangan global mengenai keamanan AI. CEO Anthropic, Dario Amodei, sebelumnya telah menyerukan agar industri AI memperlambat laju pengembangannya. Seruan ini muncul sebagai respons atas kekhawatiran mengenai aktivitas peretasan yang dilakukan oleh agen AI otonom yang tidak terkendali.
Di sisi lain, dinamika politik di Amerika Serikat juga menambah ketidakpastian. Amodei dilaporkan sempat bertemu dengan Presiden Donald Trump dalam sebuah jamuan makan malam, di tengah kuatnya desakan untuk memperketat regulasi AI. Namun, Trump cenderung menolak gagasan regulasi yang ketat tersebut. Sementara itu, Komisi Perdagangan Federal (FTC) AS dikabarkan tengah melakukan penyelidikan menyeluruh terhadap berbagai perusahaan di industri AI, termasuk Anthropic.
Langkah Anthropic mencantumkan risiko eksistensial dalam prospektus IPO mereka dipandang sebagai pedang bermata dua. Di satu sisi, hal ini menunjukkan transparansi dan tanggung jawab etis perusahaan terhadap keamanan global. Namun di sisi lain, pengakuan ini secara tidak langsung menanamkan benih ketakutan di benak investor mengenai masa depan teknologi yang mereka danai. Kini, mata dunia tertuju pada bagaimana perusahaan ini menyeimbangkan ambisi komersial dengan tanggung jawab menjaga keselamatan umat manusia.
Ikuti Kami di Google News: 
