FUNGSI CRAWLER

-
Crawler bertugas untuk mengindeks, membuat rangking, menyusun dan menata halaman dalam bentuk indeks terstruktur agar bisa dicari dalam waktu yang sangat cepat. Obyek dari crawler adalah isi halaman, file, folder dan direktori web.
Sedangkan subyek dari robots.txt adalah mesin pencari/search engine crawler. Crawler ini penting dipahami untuk SEO. Crawler akan berhadapan dengan robotsg.txt yang akan memandu mesin pencari/search engine seperti google, yahoo dan bing untuk mengindeks sebuat blog atau website.
Sehingga crawler akan tahu mana halaman, folder atau file yang boleh diindeks atau tidak. Semakin lengkap sebuah panduan dalam robots.txt akan lebih baik. Dengan demikian robot crawler akan dengan cepat mengindeks isi website. Kebanyakan halaman situs berisi link ke halaman lain.
Sebuah spider dapat memulai dari manapun. Apabila ia melihat sebuah link kepada halaman lain, maka ia akan segera menuju ke sana dan mengambilnya. Search engine seperti Alta vista mempunyai banyak spider yang bekerja secara pararel.
Sangat direkomendasikan untuk tidak menggunakan javascript pada menu utama. Gunakanlah tag noscript. Hal ini dikarenakan javascript tidak bisa diambil oleh spider untuk search engine. Dan semua link yang mengandung javascript akan ditolak sebagai halaman teks.
Fungsi Web Crawler / Web Spider
1. Web crawler biasa digunakan untuk membuat salinan sebahagian atau keseluruhan halaman web yang telah dikunjunginya agar dapat diproses lebih lanjut oleh system pengindeksan.
2. Web crawler dapat digunakan untuk proses pemeliharaan sebuah website, seperti memvalidasi kode html sebuah web.
3. Web crawler juga digunakan untuk memperoleh data yang khusus, seperti mengumpulkan alamat email.
Sumber
http://sengineku.blogspot.co.id/2010/10/arti-dan-fungsi-crawler.html
http://www.blogmashendra.com/2014/05/pengertian-dan-fungsi-web-crawler.html

Komentar

Posting Komentar

Postingan populer dari blog ini

Rule Of The Game

-
Ketika kita memainkan sebuah game, apakah kita bisa melakukan segalanya? Misalnya pada game Tetris, kita ingin memotong-motong balok yang ada, ataupun pada game Sonic kita ingin membuat Sonic bisa terbang ke manapun dia mau. Tentunya kita tidak dapat melakukan sesuatu secara sembarangan bukan? Bahkan di game Grand Theft Auto (GTA) V yang dianggap super bebas pun kita tetap akan terikat bagaimana kita menyelesaikan suatu misi. Mengapa hal ini terjadi? Ya, hal ini terjadi karena game memiliki aturan-aturan yang baku yang mengikat pemainnya, sehingga game tersebut menjadi menarik dan menantang untuk diselesaikan. Kali ini akan membahas mengenai aturan-aturan dalam game yang biasanya disusun oleh pengembang game agar menciptakan game yang menarik dan adiktif. Aturan-aturan adalah pusat dari Game. Sebuah game memiliki sistem di mana para pemain terlibat dalam sebuah konflik buatan yang ditetapkan oleh aturan-aturan yang menghasilkan sesuatu yang dapat diukur. Hal yang perlu kita perhatik...
Baca selengkapnya

Pengambil Keputusan pada Teori Game Catur Dan SepakBola

-
Gambar
Catur Pada permainan catur terdapat pergerakan bidak dalam permainannya: Raja dapat bergerak satu petak ke segala arah. Raja juga memiliki gerakan khusus yang disebut rokade yang turut melibatkan sebuah benteng. Benteng dapat bergerak sepanjang petak horizontal maupun vertikal, tetapi tidak dapat melompati bidak lain. Seperti yang telah disebutkan di atas, benteng terlibat dalam gerakan rokade. Tujuan permainan adalah mencapai posisi skak mat. Hal ini bisa terjadi bila Raja terancam dan tidak bisa menyelamatkan diri ke petak lain. Tidak selalu permainan berakhir dengan kekalahan, karena bisa terjadi pula peristiwa seri atau remis di mana kedua belah pihak tidak mampu lagi meneruskan pertandingan karena tidak bisa mencapai skak mat. Peristiwa remis ini bisa terjadi berdasarkan kesepakatan maupun tidak. Salah satu contoh remis yang tidak berdasarkan kesepakatan - tetapi terjadi adalah pada keadaan remis abadi. Keadaan remis yang lain adalah keadaan pat, dimana yang gilira...
Baca selengkapnya

Web Content - Menurut Pandangan Aristoteles

-
Menurut Aristoteles    Aristoteles berpendapat bahwa logos adalah bentuk terkuat dan paling dapat diandalkan dari persuasi, bentuk yang paling efektif persuasi, bagaimanapun, menggunakan ketiga banding. Ethos pada halaman web merupakan identitas dari web tersebut yang disajikan oleh penulis atau pembuat web sebagai situs buatannya. dapat berupa warna, lambang dan ciri khas lainnya. Sumber : https://dhozkiii24.wordpress.com/2013/08/26/penjelasan-web-content-media-standar-generative-model-model-retorika-di-web/
Baca selengkapnya