Crawlerların Bölümleri
Spider: Crawler olarak da adlandırılır. Spider siteyi ziyaret eder, okur ve daha sonra linkleri takip ederek diğer sayfalara ulaşır. Spider siteyi bir ay ya da iki ay arayla düzenli olarak tekrar ziyaret eder.
Index: Spider�ın bulduğu herşey arama motorunun indexine gider. Indexte spiderın bulduğu tüm sayfaların bir kopyası depolanır ve spider sayfaları tekrar ziyaret edip güncel hallerini getirdiğinde index de yenilenir.
Yazılım: Son parça olan arama motoru yazılımı ise indexde depolanan milyonlarca sayfa arasından uygun sonuçları bulur ve en uygun olanlara göre sıralandırma yaparak sonuçları getirir.
Bütün crawlerlarda bu parçalar vardır ama bu parçaların her birinin işlevi her arama motorunda değişiktir. Bu yüzdendir ki aynı arama farklı arama motorlarında değişik sonuçlar ortaya çıkarır.
Crawlerların Özellikleri
Derin Araştırma: Ara motorlarının indexlerine kaydetme başvurusu yapmamasına rağmen siteleri bulması anlamına gelir. Hemen hemen tüm crawlerlarda bu özellik vardır ama bazıları bu konuda daha iyidir. Bu özelliği en iyi olanlar Fast, Google ve Inktomi, kötü olanlar ise Altavista ve Teoma�dır.
Stop Kelimeleri: How, and, What gibi genel kullanımı olan kelimeler birçok crawler tarafından yer kazanılması ve aramanın hızlandırılması için indekslenmez ya da arama içinde geçmesine izin verilmez. Bu özelliği kullanmayan ve stop kelimelerine yer veren tek crawler Fast�dir.
Description: Meta taglar arasında bulunan açıklama kısmının kullanılması anlamına gelir. Tüm arama motorları bir biçimde destekler ama Altavista, Fast ve Teoma bundan en çok yararlanan crawlerlardır.
Keywords: Meta tagler arasında bulunan keywords taginin desteklenip desteklenmediğidir. Destekleyenler Inktomi ve Teoma�dır.
Alt Text: Grafikler altına yazılan ve mouse ile üstüne gelindiğinde ortaya çıkan yazılardır. Destekleyenler Altavista, Google ve Teoma�dır. Desteklemeyenler ise Fast ve Inktomi�dir.
Tanınmış Crawlerlar
Google: Şüphesiz ki en tanınmış, en önemli ve en çok kullanılan crawler tarzı arama motoru Google�dır. Ayrıca sonuçlar Yahoo, AOL ve Netscape gibi arama motorlarınca da kullanılır. Google�a kayıt olmanın en iyi yolu tüm crawlerlar için de olduğu gibi linklerinizi diğer sitelere kaydetmektir. Ayrıca ODP�ye sitenizi eklerseniz bu hem Google�ın indexine girer, hem de ODP dizinini kullanan Google�ın dizinine girer. Ayrıca Google bir de manuel olarak site ekleme opsiyonu kullanır. Buraya anasayfanızı ve çok önemsediğiniz bir sayfanızı göndermeniz yeterli olacaktır. 2 sayfa göndermenizin esprisi bir sayfanıza ulaşamadıklarında diğerine ulaşıp robotun sitenizi dolaşması içindir.
Inktomi: Önemli bir arama motorudur ve sonuçları MSN, Overture, LookSmart ve HotBot tarafından da kullanılır. Yahoo, Inktomi'yi satın aldığından dolayı çok daha büyük bir önem kazanmıştır ve önümüzdeki günlerde çok büyük gelişmelere gebe olduğundan dolayı indeksinde yer almak önemlidir. Diğer tüm crawlerlar da olduğu gibi Inktomi�ye de sitenizi eklemenin en iyi yolu görünen yerlere linkinizi yerleştirmektir. Inktomi ayrıca partnerleri üzerinden bir ücretsiz site ekleme opsiyonu da sunar. Buraya eklenen siteler 2 ay sonra Inktomi veritabanına girer. Inktomi, bunları 1 ay boyunca gözetim altında tutar ve eğer ziyaretçileri bu linklere tıklamıyorsa, bu siteleri faydasız siteler olarak görüp veritabanından çıkarır. Eğer ziyaretçiler bu linklere tıklıyorsa, sitenin faydalı olduğunu düşünüp veritabanında tutmaya karar verir. Bu yüzden en iyi yol sitenizi Inktomi'nin eklemesini beklemektir. Gene de sitesini ücretsiz eklemek isteyenler şu adresi ziyaret ederek üye olup sitelerini ekleyebilirler.
Fast Seach(AllTheWeb): Önemli bir arama motorudur ve sonuçları Lycos tarafından da kullanılır. Kayıt olmanın en iyi yolu bunun için de geçerlidir. Ayrıca bir de manuel site ekleme özelliği vardır.
Teoma: Önemli bir arama motorudur ve sonuçları Ask Jeeves tarafından da kullanılır. Zaten aslen Ask Jeeeves Teoma�nın sahibidir. En iyi ve tek yol yukarıda bahsedilen yoldur çünkü Teoma da Inktomi gibi manuel site ekleme özelliği sahibi değildir.
Altavista: Eskiden çok popüler olan bu arama motorunun popülerliği son zamanlarda kaybolmaya yüz tutmuştur ama gene de bazı insanlar hala eski alışkanlık olarak arama için bu arama motorunu kullanırlar. Altavista da diğer crawlerlar gibi sayfanızı internet üzerinde bulursa direk ekler.
