Cara Menemukan Hukum Fisika Dengan Pembelajaran Mendalam dan Regresi Simbolik – Menuju AI — Teknologi, Sains, dan Teknik Terbaik

Pengarang: mer zgür

Pembelajaran Mendalam

Dari https://www.pinterest.ru/pin/801781539891918164/?amp_client_id=CLIENT_ID(_)&mweb_unauth_id=&simplified=true

Ilmuwan vs Pembelajaran Mesin

“Saya berubah menjadi semacam mesin untuk mengamati fakta dan membuat kesimpulan.” — Charles Darwin

Sains tidak dapat bekerja tanpa data. Demikian pula, pembelajaran mesin tidak dapat bekerja tanpa data. Metode ilmiah dan pembelajaran mesin sangat dekat satu sama lain.

Untuk memahami alam semesta, para ilmuwan mengidentifikasi masalah dan mengumpulkan data tentangnya. Dari data yang dikumpulkan, para ilmuwan membuat model dan mengembangkan proses ini dengan terus menciptakan model yang lebih baik. Pembelajaran mesin juga mencoba membuat model terbaik dengan data yang dikumpulkannya dari lingkungan. Ini adalah model yang Anda miliki di tangan Anda.

Pikiran manusia memiliki daya pemrosesan dan memori yang terbatas. Kecerdasan buatan menghadirkan rezim baru penyelidikan ilmiah, di mana kita dapat mengotomatiskan proses penelitian itu sendiri. AI akan mengarah pada perubahan paradigma dalam penelitian ilmiah.

Tapi ada beberapa masalah yang harus kita selesaikan terlebih dahulu. Mengapa persamaan Maxwell dianggap sebagai fakta sains, tetapi model pembelajaran mendalam hanyalah kotak hitam? Di sini, interpretabilitas dan generalisasi mulai memainkan peran penting.

Nanti di artikel, kita akan melihat bagaimana data berdimensi tinggi dikompresi menjadi persamaan analitik.

Peraturan Emas

Semuanya harus dibuat sesederhana mungkin tetapi tidak lebih sederhana -Einstein

Interpretabilitas dan generalisasi adalah aturan emas untuk persamaan ilmiah. Contoh terbaik adalah F=m*a sangat dapat diinterpretasikan dan digeneralisasikan. Anda dapat menggunakannya untuk memprediksi gerakan apel dan bulan.

Banyak aturan dalam ilmu alam secara akurat dijelaskan oleh persamaan simbolis sederhana. Seperti Usaha, energi, gerak, radiasi,
dinamika fluida, termodinamika. Efektivitas yang tidak masuk akal dalam matematika mendorong kita untuk memecahkan masalah kompleks dengan persamaan sederhana.

Jika Anda melatih model pembelajaran mendalam untuk memprediksi kemungkinan jatuhnya apel, menggunakan model ini dalam misi luar angkasa tidak akan membantu. Pembelajaran mendalam bukanlah solusi untuk setiap masalah.

Pembelajaran mendalam terbukti sangat efisien dalam belajar di ruang berdimensi tinggi tetapi memiliki generalisasi dan kemampuan interpretasi yang buruk. Di sisi lain, Regresi Simbolik sangat baik dalam generalisasi, tetapi tidak terlalu baik pada data berdimensi tinggi.

Jadi, apakah ada cara untuk menggabungkan kekuatan keduanya?

Mekanika Pembelajaran

Dari https://astroautomata.com/paper/symbolic-neural-nets/

Peran Neural Network dalam pendekatan kami adalah untuk mengantisipasi target dan membaginya menjadi fungsi internal kecil yang beroperasi di ruang dimensi rendah. Regresi simbolik kemudian menggunakan persamaan analitik untuk memperkirakan fungsi model dalam.

Studi telah menunjukkan bahwa GNN umumnya berhasil dalam mempelajari masalah fisika. Fungsi pesan dari GNN analog dengan gaya, sedangkan fungsi update node analog dengan hukum gerak Newton.

Kami mengurangi dimensi masing-masing fungsi agar GNN menjadi jarang. Regresi simbolik akan dapat mengekstraksi ekspresi dengan lebih baik sebagai hasilnya.

Ruang Laten Untuk Rumus

Dari https://astroautomata.com/paper/symbolic-neural-nets/

Regresi simbolik adalah sejenis analisis regresi yang mencari model terbaik dalam ruang ekspresi matematika.

Elemen bangunan matematika seperti operator matematika, fungsi analitik, konstanta, dan variabel keadaan digabungkan secara acak untuk membuat ekspresi awal. Setelah itu, metode evolusi digunakan untuk memperbaiki variabel-variabel tersebut.

Misalnya, mutasi dapat menggantikan operator + dengan atau variabel x2 dengan x3.

Fungsi kebugaran yang mendorong evolusi model mempertimbangkan metrik kesalahan dan pengukuran kompleksitas tertentu, memastikan bahwa model akhir menjelaskan struktur dasar data dengan cara yang dapat dipahami manusia.

Regresi Simbolik menghindari pemaksaan asumsi sebelumnya dan menyimpulkan model dari data, sementara metode regresi tradisional berusaha memaksimalkan parameter untuk struktur model yang telah ditentukan sebelumnya.

Algoritme genetika tidak berhasil mengoptimalkan ruang pencarian berdimensi tinggi. Kami mencoba mengubah jaringan saraf dalam menjadi persamaan matematika yang disederhanakan untuk menyelesaikan masalah ini.

Saat menemukan hukum fisika, Regresi simbolis tidak belajar dari data mentah, tetapi belajar dari apa yang dipelajari jaringan saraf.

Menemukan yang Tidak Diketahui

Dari https://astroautomata.com/paper/symbolic-neural-nets/

Jika kita dapat menemukan kembali dinamika yang kita ketahui menggunakan ML, kita dapat menemukan sistem dinamis baru yang tidak kita ketahui.

Kosmologi adalah studi tentang perkembangan Semesta dari Big Bang hingga struktur kompleks yang kita amati saat ini, seperti galaksi dan bintang. Evolusi ini didorong oleh interaksi materi dan energi yang berbeda, meskipun materi gelap menyumbang 85% dari semua materi di Semesta [1].

Partikel materi gelap berkumpul bersama untuk menciptakan lingkaran cahaya materi gelap, yang berfungsi sebagai cekungan gravitasi yang menarik materi bersama-sama untuk membentuk bintang dan struktur yang lebih besar seperti galaksi.

Kemampuan untuk menyimpulkan karakteristik lingkaran cahaya materi gelap dari sekitarnya adalah masalah penting dalam kosmologi. Overdensity halo diprediksi oleh model GNN yang sama yang digunakan sebelumnya.

Algoritma yang dikembangkan telah menemukan persamaan analitik yang mengungguli yang dihasilkan oleh para ilmuwan.

Perpustakaan yang Berguna

PySR (Regresi simbolis paralel) dibangun di atas Julia dan dihubungkan oleh Python. Menggunakan evolusi reguler, simulasi anil, dan pengoptimalan bebas gradien.

SINDY adalah paket regresi jarang dengan beberapa implementasi untuk Identifikasi Jarang sistem Dinamis Nonlinier.

Takeaways

Dalam penelitian ilmiah, cakrawala baru akan muncul karena kerja sama pembelajaran mesin dan kecerdasan manusia.

Tidak ada teknik yang sempurna. Ia memiliki kekuatan dan kelemahan. Menggabungkan metode dengan benar akan menjadi bagian penting dalam memajukan penelitian ilmiah.

Referensi:

[1] https://astroautomata.com/paper/symbolic-neural-nets/

[2]https://en.wikipedia.org/wiki/Symbolic_regression

Terima kasih kepada Saluran Youtube Steve Brunton

Cara Menemukan Hukum Fisika Dengan Pembelajaran Mendalam dan Regresi Simbolik awalnya diterbitkan di Towards AI on Medium, di mana orang-orang melanjutkan percakapan dengan menyoroti dan menanggapi cerita ini.

Diterbitkan melalui Menuju AI