]> git.mxchange.org Git - mailer.git/blobdiff - 0.2.1/robots.txt
projects / mailer.git / blobdiff
? search:
summary | shortlog | log | commit | commitdiff | tree
raw | inline | side by side
win32 to unix line delimiters changed
[mailer.git] / 0.2.1 / robots.txt
diff --git a/0.2.1/robots.txt b/0.2.1/robots.txt
index 344a0520271913baabb9c1f16635b6f3bc6cc5ca..6e16af6709b85b893ba0d8d8a67ee1aaf7847f34 100644 (file)
--- a/0.2.1/robots.txt
+++ b/0.2.1/robots.txt
@@ -1,402 +1,402 @@
-#\r
-# Thanx to Mr. Jungwirth for his hint to create this file (was a bit lost in my mind...)\r
-#\r
-User-agent: *\r
-Disallow: /css/\r
-Disallow: /inc/\r
-Disallow: /images/\r
-Disallow: /sql-upgrades/\r
-Disallow: /templates/\r
-Disallow: /upgrade.php\r
-Disallow: /install.php\r
-Disallow: /cms/index/wht/impressum\r
-\r
-User-agent: *\r
-Disallow: /cms/index/wht/impressum\r
-\r
-User-agent: grub-client\r
-Disallow: /\r
-\r
-User-agent: grub\r
-Disallow: /\r
-\r
-User-agent: looksmart\r
-Disallow: /\r
-\r
-User-agent: WebZip\r
-Disallow: /\r
-\r
-User-agent: larbin\r
-Disallow: /\r
-\r
-User-agent: b2w/0.1\r
-Disallow: /\r
-\r
-User-agent: psbot\r
-Disallow: /\r
-\r
-User-agent: Python-urllib\r
-Disallow: /\r
-\r
-User-agent: NetMechanic\r
-Disallow: /\r
-\r
-User-agent: URL_Spider_Pro\r
-Disallow: /\r
-\r
-User-agent: CherryPicker\r
-Disallow: /\r
-\r
-User-agent: EmailCollector\r
-Disallow: /\r
-\r
-User-agent: EmailSiphon\r
-Disallow: /\r
-\r
-User-agent: WebBandit\r
-Disallow: /\r
-\r
-User-agent: EmailWolf\r
-Disallow: /\r
-\r
-User-agent: ExtractorPro\r
-Disallow: /\r
-\r
-User-agent: CopyRightCheck\r
-Disallow: /\r
-\r
-User-agent: Crescent\r
-Disallow: /\r
-\r
-User-agent: SiteSnagger\r
-Disallow: /\r
-\r
-User-agent: ProWebWalker\r
-Disallow: /\r
-\r
-User-agent: CheeseBot\r
-Disallow: /\r
-\r
-User-agent: LNSpiderguy\r
-Disallow: /\r
-\r
-User-agent: ia_archiver\r
-Disallow: /\r
-\r
-User-agent: ia_archiver/1.6\r
-Disallow: /\r
-\r
-User-agent: Teleport\r
-Disallow: /\r
-\r
-User-agent: TeleportPro\r
-Disallow: /\r
-\r
-User-agent: MIIxpc\r
-Disallow: /\r
-\r
-User-agent: Telesoft\r
-Disallow: /\r
-\r
-User-agent: Website Quester\r
-Disallow: /\r
-\r
-User-agent: moget/2.1\r
-Disallow: /\r
-\r
-User-agent: WebZip/4.0\r
-Disallow: /\r
-\r
-User-agent: WebStripper\r
-Disallow: /\r
-\r
-User-agent: WebSauger\r
-Disallow: /\r
-\r
-User-agent: WebCopier\r
-Disallow: /\r
-\r
-User-agent: NetAnts\r
-Disallow: /\r
-\r
-User-agent: Mister PiX\r
-Disallow: /\r
-\r
-User-agent: WebAuto\r
-Disallow: /\r
-\r
-User-agent: TheNomad\r
-Disallow: /\r
-\r
-User-agent: WWW-Collector-E\r
-Disallow: /\r
-\r
-User-agent: RMA\r
-Disallow: /\r
-\r
-User-agent: libWeb/clsHTTP\r
-Disallow: /\r
-\r
-User-agent: asterias\r
-Disallow: /\r
-\r
-User-agent: httplib\r
-Disallow: /\r
-\r
-User-agent: turingos\r
-Disallow: /\r
-\r
-User-agent: spanner\r
-Disallow: /\r
-\r
-User-agent: InfoNaviRobot\r
-Disallow: /\r
-\r
-User-agent: Harvest/1.5\r
-Disallow: /\r
-\r
-User-agent: Bullseye/1.0\r
-Disallow: /\r
-\r
-User-agent: Mozilla/4.0 (compatible; BullsEye; Windows 95)\r
-Disallow: /\r
-\r
-User-agent: Crescent Internet ToolPak HTTP OLE Control v.1.0\r
-Disallow: /\r
-\r
-User-agent: CherryPickerSE/1.0\r
-Disallow: /\r
-\r
-User-agent: CherryPickerElite/1.0\r
-Disallow: /\r
-\r
-User-agent: WebBandit/3.50\r
-Disallow: /\r
-\r
-User-agent: NICErsPRO\r
-Disallow: /\r
-\r
-User-agent: Microsoft URL Control - 5.01.4511\r
-Disallow: /\r
-\r
-User-agent: DittoSpyder\r
-Disallow: /\r
-\r
-User-agent: Foobot\r
-Disallow: /\r
-\r
-User-agent: WebmasterWorldForumBot\r
-Disallow: /\r
-\r
-User-agent: SpankBot\r
-Disallow: /\r
-\r
-User-agent: BotALot\r
-Disallow: /\r
-\r
-User-agent: lwp-trivial/1.34\r
-Disallow: /\r
-\r
-User-agent: lwp-trivial\r
-Disallow: /\r
-\r
-User-agent: BunnySlippers\r
-Disallow: /\r
-\r
-User-agent: Microsoft URL Control - 6.00.8169\r
-Disallow: /\r
-\r
-User-agent: URLy Warning\r
-Disallow: /\r
-\r
-User-agent: Wget/1.6\r
-Disallow: /\r
-\r
-User-agent: Wget/1.5.3\r
-Disallow: /\r
-\r
-User-agent: Wget\r
-Disallow: /\r
-\r
-User-agent: LinkWalker\r
-Disallow: /\r
-\r
-User-agent: cosmos\r
-Disallow: /\r
-\r
-User-agent: moget\r
-Disallow: /\r
-\r
-User-agent: hloader\r
-Disallow: /\r
-\r
-User-agent: humanlinks\r
-Disallow: /\r
-\r
-User-agent: LinkextractorPro\r
-Disallow: /\r
-\r
-User-agent: Offline Explorer\r
-Disallow: /\r
-\r
-User-agent: Mata Hari\r
-Disallow: /\r
-\r
-User-agent: LexiBot\r
-Disallow: /\r
-\r
-User-agent: Web Image Collector\r
-Disallow: /\r
-\r
-User-agent: The Intraformant\r
-Disallow: /\r
-\r
-User-agent: True_Robot/1.0\r
-Disallow: /\r
-\r
-User-agent: True_Robot\r
-Disallow: /\r
-\r
-User-agent: BlowFish/1.0\r
-Disallow: /\r
-\r
-User-agent: JennyBot\r
-Disallow: /\r
-\r
-User-agent: MIIxpc/4.2\r
-Disallow: /\r
-\r
-User-agent: BuiltBotTough\r
-Disallow: /\r
-\r
-User-agent: ProPowerBot/2.14\r
-Disallow: /\r
-\r
-User-agent: BackDoorBot/1.0\r
-Disallow: /\r
-\r
-User-agent: toCrawl/UrlDispatcher\r
-Disallow: /\r
-\r
-User-agent: WebEnhancer\r
-Disallow: /\r
-\r
-User-agent: suzuran\r
-Disallow: /\r
-\r
-User-agent: VCI WebViewer VCI WebViewer Win32\r
-Disallow: /\r
-\r
-User-agent: VCI\r
-Disallow: /\r
-\r
-User-agent: Szukacz/1.4 \r
-Disallow: /\r
-\r
-User-agent: QueryN Metasearch\r
-Disallow: /\r
-\r
-User-agent: Openfind data gathere\r
-Disallow: /\r
-\r
-User-agent: Openfind \r
-Disallow: /\r
-\r
-User-agent: Xenu's Link Sleuth 1.1c\r
-Disallow: /\r
-\r
-User-agent: Xenu's\r
-Disallow: /\r
-\r
-User-agent: Zeus\r
-Disallow: /\r
-\r
-User-agent: RepoMonkey Bait & Tackle/v1.01\r
-Disallow: /\r
-\r
-User-agent: RepoMonkey\r
-Disallow: /\r
-\r
-User-agent: Microsoft URL Control\r
-Disallow: /\r
-\r
-User-agent: Openbot\r
-Disallow: /\r
-\r
-User-agent: URL Control\r
-Disallow: /\r
-\r
-User-agent: Zeus Link Scout\r
-Disallow: /\r
-\r
-User-agent: Zeus 32297 Webster Pro V2.9 Win32\r
-Disallow: /\r
-\r
-User-agent: Webster Pro\r
-Disallow: /\r
-\r
-User-agent: EroCrawler\r
-Disallow: /\r
-\r
-User-agent: LinkScan/8.1a Unix\r
-Disallow: /\r
-\r
-User-agent: Keyword Density/0.9\r
-Disallow: /\r
-\r
-User-agent: Kenjin Spider\r
-Disallow: /\r
-\r
-User-agent: Iron33/1.0.2\r
-Disallow: /\r
-\r
-User-agent: Bookmark search tool\r
-Disallow: /\r
-\r
-User-agent: GetRight/4.2\r
-Disallow: /\r
-\r
-User-agent: FairAd Client\r
-Disallow: /\r
-\r
-User-agent: Gaisbot\r
-Disallow: /\r
-\r
-User-agent: Aqua_Products\r
-Disallow: /\r
-\r
-User-agent: Radiation Retriever 1.1\r
-Disallow: /\r
-\r
-User-agent: Flaming AttackBot\r
-Disallow: /\r
-\r
-User-agent: Oracle Ultra Search\r
-Disallow: /\r
-\r
-User-agent: MSIECrawler\r
-Disallow: /\r
-\r
-User-agent: PerMan\r
-Disallow: /\r
-\r
-User-agent: searchpreview\r
-Disallow: /\r
-\r
-User-agent: *\r
-Disallow: /guestbook\r
-\r
-User-agent: Googlebot\r
-Disallow: /guestbook\r
-\r
-User-agent: *\r
-Disallow: /blacklist.txt\r
-\r
-User-agent: Googlebot\r
-Disallow: /blacklist.txt\r
-\r
-User-agent: *\r
-Disallow: /whitelist.txt\r
-\r
-User-agent: Googlebot\r
-Disallow: /whitelist.txt\r
+#
+# Thanx to Mr. Jungwirth for his hint to create this file (was a bit lost in my mind...)
+#
+User-agent: *
+Disallow: /css/
+Disallow: /inc/
+Disallow: /images/
+Disallow: /sql-upgrades/
+Disallow: /templates/
+Disallow: /upgrade.php
+Disallow: /install.php
+Disallow: /cms/index/wht/impressum
+
+User-agent: *
+Disallow: /cms/index/wht/impressum
+
+User-agent: grub-client
+Disallow: /
+
+User-agent: grub
+Disallow: /
+
+User-agent: looksmart
+Disallow: /
+
+User-agent: WebZip
+Disallow: /
+
+User-agent: larbin
+Disallow: /
+
+User-agent: b2w/0.1
+Disallow: /
+
+User-agent: psbot
+Disallow: /
+
+User-agent: Python-urllib
+Disallow: /
+
+User-agent: NetMechanic
+Disallow: /
+
+User-agent: URL_Spider_Pro
+Disallow: /
+
+User-agent: CherryPicker
+Disallow: /
+
+User-agent: EmailCollector
+Disallow: /
+
+User-agent: EmailSiphon
+Disallow: /
+
+User-agent: WebBandit
+Disallow: /
+
+User-agent: EmailWolf
+Disallow: /
+
+User-agent: ExtractorPro
+Disallow: /
+
+User-agent: CopyRightCheck
+Disallow: /
+
+User-agent: Crescent
+Disallow: /
+
+User-agent: SiteSnagger
+Disallow: /
+
+User-agent: ProWebWalker
+Disallow: /
+
+User-agent: CheeseBot
+Disallow: /
+
+User-agent: LNSpiderguy
+Disallow: /
+
+User-agent: ia_archiver
+Disallow: /
+
+User-agent: ia_archiver/1.6
+Disallow: /
+
+User-agent: Teleport
+Disallow: /
+
+User-agent: TeleportPro
+Disallow: /
+
+User-agent: MIIxpc
+Disallow: /
+
+User-agent: Telesoft
+Disallow: /
+
+User-agent: Website Quester
+Disallow: /
+
+User-agent: moget/2.1
+Disallow: /
+
+User-agent: WebZip/4.0
+Disallow: /
+
+User-agent: WebStripper
+Disallow: /
+
+User-agent: WebSauger
+Disallow: /
+
+User-agent: WebCopier
+Disallow: /
+
+User-agent: NetAnts
+Disallow: /
+
+User-agent: Mister PiX
+Disallow: /
+
+User-agent: WebAuto
+Disallow: /
+
+User-agent: TheNomad
+Disallow: /
+
+User-agent: WWW-Collector-E
+Disallow: /
+
+User-agent: RMA
+Disallow: /
+
+User-agent: libWeb/clsHTTP
+Disallow: /
+
+User-agent: asterias
+Disallow: /
+
+User-agent: httplib
+Disallow: /
+
+User-agent: turingos
+Disallow: /
+
+User-agent: spanner
+Disallow: /
+
+User-agent: InfoNaviRobot
+Disallow: /
+
+User-agent: Harvest/1.5
+Disallow: /
+
+User-agent: Bullseye/1.0
+Disallow: /
+
+User-agent: Mozilla/4.0 (compatible; BullsEye; Windows 95)
+Disallow: /
+
+User-agent: Crescent Internet ToolPak HTTP OLE Control v.1.0
+Disallow: /
+
+User-agent: CherryPickerSE/1.0
+Disallow: /
+
+User-agent: CherryPickerElite/1.0
+Disallow: /
+
+User-agent: WebBandit/3.50
+Disallow: /
+
+User-agent: NICErsPRO
+Disallow: /
+
+User-agent: Microsoft URL Control - 5.01.4511
+Disallow: /
+
+User-agent: DittoSpyder
+Disallow: /
+
+User-agent: Foobot
+Disallow: /
+
+User-agent: WebmasterWorldForumBot
+Disallow: /
+
+User-agent: SpankBot
+Disallow: /
+
+User-agent: BotALot
+Disallow: /
+
+User-agent: lwp-trivial/1.34
+Disallow: /
+
+User-agent: lwp-trivial
+Disallow: /
+
+User-agent: BunnySlippers
+Disallow: /
+
+User-agent: Microsoft URL Control - 6.00.8169
+Disallow: /
+
+User-agent: URLy Warning
+Disallow: /
+
+User-agent: Wget/1.6
+Disallow: /
+
+User-agent: Wget/1.5.3
+Disallow: /
+
+User-agent: Wget
+Disallow: /
+
+User-agent: LinkWalker
+Disallow: /
+
+User-agent: cosmos
+Disallow: /
+
+User-agent: moget
+Disallow: /
+
+User-agent: hloader
+Disallow: /
+
+User-agent: humanlinks
+Disallow: /
+
+User-agent: LinkextractorPro
+Disallow: /
+
+User-agent: Offline Explorer
+Disallow: /
+
+User-agent: Mata Hari
+Disallow: /
+
+User-agent: LexiBot
+Disallow: /
+
+User-agent: Web Image Collector
+Disallow: /
+
+User-agent: The Intraformant
+Disallow: /
+
+User-agent: True_Robot/1.0
+Disallow: /
+
+User-agent: True_Robot
+Disallow: /
+
+User-agent: BlowFish/1.0
+Disallow: /
+
+User-agent: JennyBot
+Disallow: /
+
+User-agent: MIIxpc/4.2
+Disallow: /
+
+User-agent: BuiltBotTough
+Disallow: /
+
+User-agent: ProPowerBot/2.14
+Disallow: /
+
+User-agent: BackDoorBot/1.0
+Disallow: /
+
+User-agent: toCrawl/UrlDispatcher
+Disallow: /
+
+User-agent: WebEnhancer
+Disallow: /
+
+User-agent: suzuran
+Disallow: /
+
+User-agent: VCI WebViewer VCI WebViewer Win32
+Disallow: /
+
+User-agent: VCI
+Disallow: /
+
+User-agent: Szukacz/1.4 
+Disallow: /
+
+User-agent: QueryN Metasearch
+Disallow: /
+
+User-agent: Openfind data gathere
+Disallow: /
+
+User-agent: Openfind 
+Disallow: /
+
+User-agent: Xenu's Link Sleuth 1.1c
+Disallow: /
+
+User-agent: Xenu's
+Disallow: /
+
+User-agent: Zeus
+Disallow: /
+
+User-agent: RepoMonkey Bait & Tackle/v1.01
+Disallow: /
+
+User-agent: RepoMonkey
+Disallow: /
+
+User-agent: Microsoft URL Control
+Disallow: /
+
+User-agent: Openbot
+Disallow: /
+
+User-agent: URL Control
+Disallow: /
+
+User-agent: Zeus Link Scout
+Disallow: /
+
+User-agent: Zeus 32297 Webster Pro V2.9 Win32
+Disallow: /
+
+User-agent: Webster Pro
+Disallow: /
+
+User-agent: EroCrawler
+Disallow: /
+
+User-agent: LinkScan/8.1a Unix
+Disallow: /
+
+User-agent: Keyword Density/0.9
+Disallow: /
+
+User-agent: Kenjin Spider
+Disallow: /
+
+User-agent: Iron33/1.0.2
+Disallow: /
+
+User-agent: Bookmark search tool
+Disallow: /
+
+User-agent: GetRight/4.2
+Disallow: /
+
+User-agent: FairAd Client
+Disallow: /
+
+User-agent: Gaisbot
+Disallow: /
+
+User-agent: Aqua_Products
+Disallow: /
+
+User-agent: Radiation Retriever 1.1
+Disallow: /
+
+User-agent: Flaming AttackBot
+Disallow: /
+
+User-agent: Oracle Ultra Search
+Disallow: /
+
+User-agent: MSIECrawler
+Disallow: /
+
+User-agent: PerMan
+Disallow: /
+
+User-agent: searchpreview
+Disallow: /
+
+User-agent: *
+Disallow: /guestbook
+
+User-agent: Googlebot
+Disallow: /guestbook
+
+User-agent: *
+Disallow: /blacklist.txt
+
+User-agent: Googlebot
+Disallow: /blacklist.txt
+
+User-agent: *
+Disallow: /whitelist.txt
+
+User-agent: Googlebot
+Disallow: /whitelist.txt
Mailer-Project repository