Satu persamaan, dua empayar dan perlumbaan yang sukar dihentikan oleh sesiapa

Perkara seterusnya yang berlaku menjadikan sempadan antara sains dan persaingan perniagaan menjadi lebih sukar untuk dibezakan.

Setelah memperoleh penyelesaian, OpenAI mendekati Buckmaster. Syarikat itu menawarkan untuk membenarkannya menerbitkan hasilnya terlebih dahulu, menyediakan sumber pengiraan tambahan, malah membiarkannya menjadi pengarang utama dalam pembentangan penyelesaian tersebut oleh OpenAI. Menurut Buckmaster, OpenAI juga bersedia mencadangkan agar beliau dan rakan sejawatnya menerima ganjaran 1 juta USD.

Titik ketegangan terletak pada nama rakan sejawat tersebut: Levent Alpöge, kakitangan Anthropic.

Buckmaster berkata OpenAI tidak mahu Alpöge diletakkan sebagai pengarang. Sébastien Bubeck, yang mengetuai usaha matematik di OpenAI, menyanggah beberapa perincian dalam kenyataan Buckmaster, tetapi juga menjelaskan secara terus kepada The New York Times: dari sudut pandangan OpenAI, adalah sukar bagi projek dalaman syarikat tersebut untuk mempunyai kakitangan Anthropic yang terlibat sebagai pengarang.

Buckmaster menolak tawaran tersebut. Beliau memberitahu The New York Times bahawa beliau tidak mempedulikan 1 juta USD, dan juga tidak terlalu memikirkan siapa yang sampai ke garisan penamat terlebih dahulu. Beliau “hanya mahu menjadi sebahagian daripada kisah” matematik itu. Akhirnya, beliau menjadi watak dalam kisah yang lebih besar mengenai OpenAI dan Anthropic. “Saya hanyalah orang luar dalam permainan persaingan kecil ini,” katanya.

Namun, Buckmaster juga tidak sepenuhnya berada di luar. Beliau sedang menggunakan alatan yang disediakan oleh kedua-dua pihak untuk melakukan penyelidikan. Dan itulah titik yang menjadikan perkara ini sukar untuk berhenti setakat pertikaian mengenai sumbangan saintifik semata-mata.

Alatan juga boleh menjadi pesaing

Dalam proses penyelidikan, Buckmaster menggunakan Codex daripada OpenAI untuk membantu memproses dan membersihkan siri hujah matematik kompleks yang dicipta semasa bekerja dengan AI. Selepas OpenAI mengumumkan penyelesaian tersebut, beliau menimbulkan persoalan: adakah kandungan yang beliau masukkan ke dalam sistem OpenAI menyumbang kepada keupayaan model selepas itu?

Buckmaster menyatakan dengan jelas bahawa beliau tidak mempunyai bukti perkara itu berlaku. OpenAI juga menafikan kemungkinan bahawa gesaan beliau dalam tempoh dua bulan sebelum pengumuman tersebut boleh mempengaruhi sistem yang digunakan untuk menyelesaikan Navier–Stokes. Syarikat tersebut menyatakan bahawa model ini dibina di atas model pra-latihan sebelumnya dan dibangunkan melalui pembelajaran pengukuhan berskala besar; selepas siasatan, OpenAI mengisytiharkan bahawa data input selepas 3 Julai tidak dapat memberi kesan kepada sistem mengikut cara yang disyaki oleh Buckmaster.

Dalam satu kenyataan lain yang dipetik oleh Financial Times, OpenAI menyatakan bahawa tiada data pengguna khusus yang diakses untuk menyelesaikan masalah tersebut, namun syarikat itu tidak dapat menolak sepenuhnya kemungkinan bahawa data yang telah dinyahidentifikasi daripada penggunaan produk OpenAI pernah menyumbang kepada penambahbaikan model.

Selama beberapa dekad, seorang saintis boleh menggunakan komputer, perisian statistik, atau pangkalan data sebagai alat sokongan. Pengeluar alat jarang sekali menjadi entiti yang mampu melangkah terus ke dalam masalah yang sama, menggerakkan sumber yang jauh melebihi makmal penyelidikan universiti dan menghasilkan keputusan yang bersaing dengan pengguna produk mereka sendiri.

AI memainkan tiga peranan yang mula bercantum:

Ia adalah alat, kerana saintis menggunakannya untuk membangunkan hipotesis dan memproses kerja.

Ia adalah infrastruktur, kerana model, kuasa pengiraan, data, dan syarat akses semuanya dimiliki oleh segelintir syarikat seperti OpenAI.

Dan semakin jelas, ia boleh menjadi ejen penyelidikan, secara langsung mencipta bukti, program, atau penemuan yang sebelum ini dilakukan oleh manusia sebagai subjek pusat.

Dalam kes Navier–Stokes, ketiga-tiga peranan tersebut bertindih. Perkara ini menimbulkan masalah: apabila seorang saintis menghantar pemikiran yang belum diterbitkan, langkah cuba-jaya, atau hipotesis awal ke dalam sistem AI, bagaimanakah hubungan antara mereka dan syarikat penyedia sistem tersebut harus difahami?

Ini bukan sekadar persoalan mengenai hak milik dari segi perundangan. Ia berkaitan dengan kedudukan infrastruktur swasta dalam proses pembentukan ilmu. Jika keupayaan untuk meneroka semakin bergantung pada sistem pengiraan yang sangat besar, kuasa saintifik juga boleh beralih ke arah organisasi yang mengawal sistem tersebut.

Buckmaster melihat perubahan itu dalam kerjanya sendiri. Beliau menceritakan bahawa pengalaman penyelidikan dengan AI terasa mengujakan, namun dalam masa yang sama membuatkannya tidak tenteram. Apabila model AI mula bergerak lebih pantas daripada manusia dalam langkah hujah, beliau tertanya-tanya sama ada peranannya masih sebagai peneroka atau beransur-ansur menjadi pembaca, pemeriksa, dan penterjemah output mesin. “Di manakah bahagian manusianya?” soal beliau.

Perlumbaan yang sukar dihentikan

Hubungan antara OpenAI dan Anthropic menjadikan kisah Navier–Stokes melangkaui pertikaian matematik semata-mata.

Anthropic lahir pada tahun 2021 daripada sekumpulan kakitangan yang meninggalkan OpenAI, di tengah-tengah perselisihan mengenai cara membangunkan sistem AI yang semakin berkuasa. Sejak itu, syarikat tersebut membina imej di sekitar falsafah yang lebih berhati-hati terhadap risiko kecerdasan buatan. Namun, enam tahun kemudian, kedua-dua pihak telah menjadi pesaing langsung dalam hampir setiap bidang: bakat, teknologi, produk, reputasi, dan pasaran modal. Financial Times menyifatkan ini sebagai salah satu persaingan paling sengit dalam industri AI masa kini.

Kedua-dua OpenAI dan Anthropic telah berulang kali mengakui risiko yang dikaitkan dengan sistem AI yang semakin berkuasa. Walau bagaimanapun, persaingan mengenai keupayaan model, bakat, pasaran, dan kedudukan terus meningkat. Anthropic tahun ini malah telah melaraskan beberapa komitmen dalam dasar pembangunan yang bertanggungjawab, dengan alasan tekanan daripada pesaing seperti OpenAI dan had komitmen unilateral apabila syarikat lain tidak menanggung sekatan yang sama.

Paradoks yang sukar diselesaikan muncul: sebuah syarikat mungkin mahu lebih berhati-hati, tetapi memperlahankan langkah secara bersendirian mungkin bermakna menyerahkan kelebihan kepada pesaing. Kes Navier–Stokes menunjukkan mekanisme tersebut; sebaik sahaja mendengar berita pesaing mungkin menghampiri pencapaian besar, OpenAI segera menggerakkan sumber pengiraan yang sangat besar.

Tiga hari selepas OpenAI mengumumkan penyelesaian tersebut, Terence Tao bersama 24 penerima Pingat Fields mengeluarkan kenyataan bersama bertajuk A Severe Misalignment of AI in Mathematics. Mereka tidak menafikan keupayaan matematik AI yang semakin meningkat. Apa yang mereka beri amaran ialah penggunaan masalah terkenal sebagai kayu ukur keupayaan oleh syarikat-syarikat besar seperti OpenAI boleh menolak matlamat perniagaan dan matlamat komuniti matematik ke arah yang bertentangan.

Sesuatu penyelesaian yang penting biasanya membuka kaedah, konsep, dan pemahaman baharu; kemudian ia dibaca, diperiksa, dipermudahkan, diajar, dan disepadukan ke dalam khazanah ilmu umum. Apabila keupayaan untuk menghasilkan penyelesaian meningkat lebih cepat daripada keupayaan komuniti untuk menyerapnya, persoalan mengenai pengiktirafan, petikan, keutamaan, dan keupayaan untuk mengenal pasti bahagian yang benar-benar baharu daripada sesuatu hasil menjadi lebih sukar.

Oleh itu, amaran daripada Tao dan rakan sejawatnya perlu diberi perhatian kerana ia muncul tepat pada masanya apabila masalah akademik telah ditarik ke dalam orbit persaingan antara dua syarikat teknologi besar.

Navier–Stokes mungkin merupakan kes yang sangat sesuai untuk melihat peralihan ini. Matematik mempunyai standard pengesahan yang agak jelas, tradisi pengiktirafan sumbangan yang lama, dan komuniti penyelidikan yang terbiasa membina ilmu langkah demi langkah. Namun, walaupun dalam persekitaran tersebut, sempadan antara alat, rakan kerjasama, infrastruktur, dan pesaing telah mula menjadi kabur.

Jika perkara itu telah berlaku dalam matematik, persoalan yang sama akan menjadi lebih kompleks dalam bidang perubatan, farmaseutikal, bahan, atau reka bentuk cip, di mana pengetahuan saintifik dikaitkan secara langsung dengan aset komersial dan kelebihan strategik.

Kes Navier–Stokes belum menunjukkan sama ada OpenAI atau Anthropic akan memenangi perlumbaan AI. Ia menunjukkan masalah yang lebih jangka panjang: apabila peristiwa penting saintifik menjadi kayu ukur bagi keupayaan teknologi, persaingan antara syarikat seperti OpenAI boleh mula memberi kesan kepada cara ilmu dicipta, diiktiraf, dan diedarkan.

Matematik hanyalah tempat di mana peralihan tersebut muncul lebih awal dan jelas.

BACA SEKARANG

Apabila “makmal terbuka” memimpin ekosistem teknologi strategik

Apabila robot melangkah ke bilik bedah: Hasrat inovasi daripada Cornerstone Robotics

Futures in Education: Transformasi ilmu menjadi pembangunan