Minggu uts baru saja lewat. Salah satu yang berkesan selama ujian kemarin adalah mata kuliah intelejensia kolektif. Ujiannya sebetulnya sederhana, hanya me-review sebuah paper, dengan catatan mencoba mengimplementasikan apa yang disampaikan paper tersebut dalam waktu satu minggu (sambil ada uts yang lain juga, hehe). Kebetulan saya mendapat paper yang isinya tidak terlalu sulit untuk diimplementasikan dalam artian tidak membutuhkan spesifikasi konfigurasi tertentu (mis. simulasi, jaringan komputer, atau framework parallel programming). Paper yang saya review adalah “A Hybrid ACO algorithm for the capacitated Minimum Spanning Tree Problem“, oleh Marc Reimann dari ETHZ.

Singkat kata, ada dua buah topik yang terlibat di sini. Pertama adalah algoritma ACO (Ant Colony Optmization) yaitu algoritma optimasi yang terinspirasi dari perilaku semut dalam mencari makanan. Berdasarkan hasil pengamatan, jalur yang dilalui oleh semut (dari sarang ke lokasi makanan) jika makanan ditemukan merupakan jalur yang terpendek (shortest path). Semut itu sendiri bergerak secara acak namun saling berkomunikasi a la pramuka dengan memanfaatkan jejak zat kimia bernama feromon. Jika makanan ditemukan maka semut tersebut akan meninggalkan feromon dalam perjalanan pulang ke sarang. feromon ini akan menguap seiring dengan waktu namun akan diperkuat jika ditambahkan oleh semut lainnya. Walaupun di awal dinyatakan bahwa semut bergerak secara acak namun dengan adanya media komunikasi berupa feromon, semut tersebut memiliki kecenderungan lebih tinggi untuk memilih jalan yang aroma feromonnya lebih kuat.

Topik kedua yaitu persoalan capacitated minimum spanning tree. Sejujurnya, baru kali itu saya mengetahui tentang persoalan tsb. Kalau persoalan minimum spanning tree tentu sudah pernah dengar dari kuliah matematika diskret di awal S1. Nah, kalau ditambah batasan tambahan? Ternyata setelah browsing sana-sini dan melototin papernya sambil begadang, lama kelamaan ngerti juga. Ternyata adanya batasan ‘capacitated‘ itu maksudnya adalah jika ada satu node yang dipastikan akan menjadi akar pohon dan tiap node lainnya punya nilai demand maka untuk tiap sub-pohon yang terhubung ke node akar tidak boleh melebihi nilai konstanta kapasitas untuk persoalan tersebut. ketika nilai demand dari tiap node merupakan nilai satuan, maka kapasitasnya secara sederhana berarti tiap sub-pohon hanya boleh mengandung node paling banyak senilai konstanta kapasitas.

Di paper tersebut, persoalan CMST diceritakan sebagai relaksasi dari persoalan Capacitated Vehicle Routing Problem. Untuk menyelesaikan persoalan ini langkah yang dilakukan antara lain pengelompokan node (node clustering), pertukaran node antar kelompok (local search), dan terakhir mencari MST untuk tiap kelompok menggunakan algoritma Prim. Adapun letak penggunaan algoritma ACO adalah pada pengelompokan node. Pembentukan kelompok node dilakukan sedemikian rupa sehingga ketika menggabungkan dua buah kelompok menjadi kelompok baru batasan kapasitasnya tetap terpenuhi. Pemodelan jalur semut atau pengambilan keputusan terletak pada menentukan kelompok mana yang akan digabung menjadi kelompok baru. Salah satu kriterianya adalah nilai saving yang dinyatakan sebagai nilai penghematan jika dua buah cluster digabung menjadi satu. kriteria ini digabung dengan distribusi feromon dalam ruang keputusan yang jumlah pilihannya dibatasi membentuk distribusi peluang (probability density function) yang dimanfaatkan untuk mengambil keputusan secara acak.

Langkah berikutnya adalah pertukaran antar node di satu kelompok dengan node di kelompok lain. Karena tidak dijelaskan lebih lanjut mengenai kriteria dampak penukaran dua buah node dan kalaupun menggunakan nilai saving saya hampir tidak menemukan perbedaan dengan langkah sebelumnya, saya tidak mengimplementasi langkah ini dan lanjut ke algoritma prim. Sebagai percobaan, sampel data kasus diambil dari OR Library. Berbeda dari paper tersebut yang membandingkan algoritma versi ACO dengan algoritma metaheuristik lain (Tabu Search dan Evolutionary), dalam percobaan yang saya lakukan solusi dibandingkan dengan solusi upper bound (karena persoalannya minimasi) yaitu tiap node terhubung ke node akar. Berdasarkan hasil percobaan menggunakan kasus tc80 solusi yang dihasilkan algoritma ACO yang saya implementasi berhasil mengurangi total cost sebesar 80% (biaya solusi < 20% biaya asal) dari nilai upper bound tersebut.

Program tsb saya implementasikan menggunakan delphi. Namun, sepertinya implementasi versi saya masih termasuk lambat (mungkin karena ada banyak operasi set, konversi string, dan array dinamik). Jadinya ketika mengikuti parameter di paper tersebut, untuk kasus di atas (80 node+1 node akar) perlu waktu rata-rata 20 menit (80 semut, 800 iterasi yang ditotal jadi 16000 percobaan) padahal setelah 200an iterasi hampir tidak lagi ditemukan solusi yang lebih baik dan sepertinya tidak perlu semut sebanyak itu untuk simulasi (10 semut sepertinya cukup walau untuk konvergen ke solusi terbaik ada di iterasi 250an).

Sebetulnya sebelum uts ini hal serupa (mengimplementasi dan mereview paper) juga dilakukan dan topik yang saya pilih mengenai contour correspondence yang dimodelkan menjadi persoalan Quadratic Assignment Problem. Tapi sepertinya lebih enak membahas yang ini dulu, hehehe

Semasa SMA dulu saya sangat tertarik dengan euphoria dunia sains dan teknologi. Masa-masa yang sangat indah ketika bisa bebas bermimpi tentang teknologi tanpa terbebani dengan bagaimana mewujudkannya menjadi sebuah benda nyata yang fungsional. Pada suatu ketika saya ditugaskan untuk membuat sebuah brosur produk. Waktu itu saya terpikir untuk sebuah produk khayalan yang bisa membantu menyerap informasi dari buku tanpa perlu menghabiskan waktu untuk membaca melainkan bisa dilakukan sambil tidur. Ide ini didasari dari kebiasaan saya menghabiskan waktu istirahat untuk membaca buku-buku di perpustakaan sekolah dan kebiasaan tidur di kelas (biarpun duduk paling depan) pada saat jam pelajaran.

Beberapa waktu terakhir tampaknya mimpi waktu itu datang kembali, hanya saja kali ini sepertinya ada kesempatan untuk menyelidiki lebih lanjut apakah ide tersebut bisa diwujudkan atau tidak. Saya sendiri menganggap ide saya waktu sma tersebut masih mungkin diwujudkan setelah mempelajari beberapa informasi mulai dari model-model kemampuan berpikir dari bidang artificial intelligence, fisiologi otak dari perkembangan ilmu biomedik dan neuroscience, serta sedikit pengetahuan mengenai fisika (elektromagnetik) -kimia (organik dan molekuler).

Pada dasarnya untuk mewujudkan ide di atas adalah dengan membuat model kognitif manusia sebagai mesin komputasi atau dengan kata lain mensimplifikasi otak manusia sebagai komputer konvensional (von neumann). Alur proses yang terjadi antara lain :
- akuisisi informasi dari sumber fisik (buku)
- transfer informasi tersebut menjadi informasi yang disimpan dalam filesystem otak pada lokasi yang sesuai.
proses di atas diasumsikan representasi informasi yang digunakan di otak, fungsi untuk mentransformasi representasi informasi dan mentransfer informasi ke dalam otak, dan pemetaan organisasi informasi di otak sudah diketahui. Ketiga asumsi tersebut sudah ada beberapa teori serta studi yang dilakukan tetapi mungkin masih jauh dari cukup.

Otak manusia bisa didekomposisi berdasarkan fungsi dan anatominya. Sesuai dengan konteks di atas, Fungsi untuk pembelajaran dan memori dipercaya berada pada bagian hippocampus, cerebral cortex, cerebellum, dan amygdala. hippocampus merupakan bagian yang banyak dipelajari terkait dengan fungsi ingatan. cerebellum atau otak kecil dipercaya berfungsi mengendalikan sistem motorik. amygdala dipercaya mengendalikan informasi yang terkait ingatan respon emosional. cerebral cortex, di lain pihak mengendalikan ingatan-ingatan yang terkait dengan informasi sensorik, dan ingatan lainnya. cortex, kalau tidak salah ingat juga banyak menginspirasi teknik-teknik dalam computer vision.

Dari keempat bagian dari otak tersebut, yang banyak dipelajari khususnya mengenai ingatan adalah hippocampus dan neocortex. Hebb menganjurkan sebuah teori mengenai pembentukan ingatan sebagai hubungan antara dua buah sel syaraf (sinapsis) yang diberi rangsangan secara simultan yang menjadi pedoman dalam perkembangan teknik artificial neural network (Hebbian learning). Berdasarkan teori ini, ingatan (baik jangka pendek maupun jangka panjang) dianggap sebagai struktur keterhubungan antar sel. Ternyata, ada mekanisme lain yang juga berperan dalam ingatan khususnya ingatan jangka panjang. Todd Sacktor – Profesor neurologi dari amerika – mengungkap mekanisme molekuler yang mengelola “data center” tersebut yaitu enzim isoform protein kinase C bernama protein kinase MZeta (PKMZeta). Studi lebih lanjut menunjukkan dengan menggunakan obat untuk menghambat kerja protein tersebut berdampak pada kehilangan ingatan terhadap hal yang telah dipelajari selama satu hari, dan bahkan sebulan sebelumnya. obat penghambat tersebut tidak berdampak permanen atau menimbulkan kerusakan pada otak. Beberapa publikasi lanjutan dari Dr. Sacktor menjabarkan tentang jaringan regulatori enzim tersebut yang diharapkan dapat membantu usaha pengobatan penyakit seperti alzheimer.[1]

Untuk mewujudkan rekayasa otak diperlukan hal-hal seperti : pemahaman mengenai mekanisme kerja otak dari tataran molekuler hingga fenomena abstrak seperti ingatan dan perilaku, instrumentasi untuk pengukuran aktivitas yang terjadi di otak, dan instrumen untuk memanipulasi aktivitas otak. Ada berbagai macam teknik yang saat ini diketahui untuk melakukan stimulasi aktivitas di otak baik berupa implantasi perangkat yang berfungsi sebagai “pacu otak” (deep brain stimulation) maupun perangkat yang hanya perlu dikenakan (wearable) yang berbasis pada gelombang elektromagnetik (transcranial magnetic stimulation). Ada juga gosip yang beredar tentang pengembangan alat untuk komunikasi telepati buatan untuk kepentingan militer[2].

Mudah-mudahan di masa depan kita sempat merasakan teknologi ini.

Un grupo de investigación de la Universidad de Granada, dirigido por J.J. Merelo, ha diseñado un algoritmo para el movimiento de tropas que funciona mediante Optimización basada en Colonias de Hormigas. A pesar de haber partido de un juego, el “Panzer General”, personal del Ejército ha participado en la investigación. Y es que ya se sabe, la inteligencia computacional en juegos tiene mucho, mucho futuro. No solo en lo relativo a defensa… se pueden optimizar más cosas

Luis

Self-Organized Ant-based clustering results on IDS data (MIT Lincoln Labs) using a full data set with 11982 samples (41 features each) in the initial and final steps.

[] Vitorino Ramos, Ajith Abraham, ANTIDS: Self-Organized Ant-based Clustering Model for Intrusion Detection System,  in Swarm Intelligence and Patterns special session at WSTST-05 – 4th IEEE Int. Conf. on Soft Computing as Transdisciplinary Science and Technology – Japan, LNCS series, Springer-Verlag, Germany, pp. 977-986, May 2005.

Security of computers and the networks that connect them is increasingly becoming of great significance. Computer security is defined as the protection of computing systems against threats to confidentiality, integrity, and availability. There are two types of intruders: the external intruders who are unauthorized users of the machines they attack, and internal intruders, who have permission to access the system with some restrictions. Due to the fact that it is more and more improbable to a system administrator to recognize and manually intervene to stop an attack, there is an increasing recognition that ID systems should have a lot to earn on following its basic principles on the behavior of complex natural systems, namely in what refers to self-organization, allowing for a real distributed and collective perception of this phenomena. With that aim in mind, the present work presents a self-organized ant colony based intrusion detection system (ANTIDS) to detect intrusions in a network infrastructure. The performance is compared among conventional soft computing paradigms like Decision Trees, Support Vector Machines and Linear Genetic Programming to model fast, online and efficient intrusion detection systems.

(to obtain the respective PDF file follow link above or visit chemoton.org)

Un par de herramientas que he descubierto en el PPSN X:

La primera es de algoritmos evolutivos, está escrita en PERL, y podéis buscar información aquí.

La segunda es de aprendizaje automático, está escrita en Python y tiene un aspecto estupendo. Podéis encontrarla en www.pybrain.org.

Luis

GECCO-2009 will be the first GECCO conference in Canada. The conference will take place in Montreal, Canada on July 8-12, 2009 (Wednesday-Sunday). The deadline for submitting papers to GECCO-2009 is January 14, 2009. The general chair of GECCO-2009 is Franz Rothlauf.

For more details, check out GECCO-2009 web site. Download the PDF of the GECCO-2009 Call for Papers here. The photo for the GECCO-2009 banner is by Diliff. The original is available from wikipedia.

Aquí os pongo un vídeo que ha hecho Verónica para la presentación de su proyecto.

Básicamente, se ha partido de un controlador heurístico (a la izquierda) el cual se ha mejorado y optimizado mediante técnicas de optimización basadas en colonias de hormigas.

La mejora (derecha) es bastante notable, pero todavía queda margen para arañar unas decimillas…

Luis

Evostar 2009 – EuroGP, EvoCOP, EvoBIO and EvoWorkshops

April 15-17, 2009, Tübingen, Germany
Homepage: www.evostar.org
Deadline November 5, 2008

FOGA X – Foundations of Genetic Algorithms

January 9-11, 2009, Orlando, Florida USA
Homepage: http://www.sigevo.org/foga-2009
Deadline August 18, 2008

2009 IEEE Congress on Evolutionary Computation (CEC 2009)

May 18-21, 2009, Trondheim, NORWAY
Homepage: www.cec-2009.org
Deadline November 1, 2008

New Journal: IEEE Transactions On Computational Intelligence And AI In Games

Homepage: http://ieee-cis.org/pubs/tciaig/ (available soon)
Submissions open August/September 2008

Luis

Kemarin saya baru menonton naruto shipuuden episode 56. Ceritanya adalah metode belajar dari kakashi yang menggunakan karakteristik dari Kage Bunshin no Jutsu yang menggabungkan experience yang didapat dari masing-masing clone untuk mempercepat proses belajar.

come to think of it, sifat ini mirip dengan yang saya alami di blogosphere. Dalam kondisi ideal jika sekumpulan blogger melakukan eksplorasi di bidang yang sama dengan daerah yang dieksplor berbeda, hal ini dapat mempercepat proses belajar (tentunya dengan asumsi tidak ada yang berbohong).

Mungkin ini ya yang dipercaya oleh para peneliti di bidang Multi-Agent Intelligence. Bahwa interaksi antar agent dapat mempercepat konvergensi suatu proses pembelajaran. Adakah yang memiliki paper tentang hubungan ini (fusion of learning experience to speed up convergence in learning multi-agent system)?

saya sendiri belum cukup banyak menjelajahi daerah multi-agent system dalam bidang AI. Tapi kemarin sempat baca-baca sekilas tentang monte-carlo simulation dan markov random field. Sepertinya ada kemiripan dengan proses fusi pembelajaran yang barusan.

*bongkar-bongkar koleksi pustaka*

NB: kok ujung-ujungnya malah ke soft-computing yah? hehe.. biarin ah!