Continued/WIP:
- in commands.fetch_instances() added initialization of variables 'rows'
- also moved fetching rows into if() block
- commented some more code

Continued:
- added alias "kmyblue" for mastodon

WIP:
- rewritten fetch_instances towars allowing also --software=foo as an
  alternative parameter

Continued:
- changed string "true/false" to boolean
- please update your configuration file (all occurances!)

Continued:
- need to negate this state: only skip/reject .i2p domains when they are not
  allowed by configuration (which is default)

Continued:
- moved utils.fetch_url() to module network as this is network-related
- added some debug lines

Continued:
- need to remove prefix "re:" before cleaning up software, else all software is called "re"
- added alias "lovers" for "misskey"

Continued:
- added alias "miraiskey" for "misskey"
- moved all those aliases to "private" variable _misskey_aliases

Continued:
- fediverse.observer has changed their API to Graph (JSON POST)
- domain singleuser.club blacklisted, this domain started flooding with
  sub-domains which have wwXX as another sub-domain

Continued:
- need to cut off everything after hash symbol because that is for JavaScript
  click-event loaded content anyway
- prevented a few empty/None strings for invoking tidyup.domain()
- improved a few log messages

Continued:
- don't allow empty peer list in federation.add_peers()

Continued:
- added missing 'continue'
- added some debug messages
- skip empty/NoneType domain names

Continued:
- maybe error[json][error] is not a dict

Continued:
- added "error_message" JSON error message

Continued:
- also check blacklist first, before invoking instances.is_recent()

Continued:
- also check blacklist in instances.is_recent() function
- first check against blacklist, then if it is recent (in commands.py)

Continued:
- added alias 'goblin' for 'misskey'
- added debug line

Continued:
- Python still needs a backslash here

Continued:
- check validity of href URL before parsing it (controlled skip instead of
  uncontrolled raised exception)

Continued:
- reformatted

Continued:
- some relays may have removed/never set nodeinfo URL, these need to be skipped
  to avoid exception in fetch_url() function

Continued:
- command 'fetch_txt' supports now --force parameter
- check against blacklist (wasn't in is_registered())
- some debug messages added

Continued:
- formatted SQL statements

Continued:
- forgot to vacuum-clean it

Continued:
- simplified code, no need for this extra indenting

Continued:
- combined None and "" (empty string) for lesser code
- added/improved debug messages
- got rid of one local variable, added another one ;-)

Continued:
- improved logger messages

Continued:
- logged domain name
- better check variable software against None and empty string

Continued:
- initially set original_software, maybe it needs fixing later

Continued:
- need to catch any network-related exceptions to reduce _DEPTH counter

Continued:
- moved original_software next to 'software' column
- replaced own _cache dict with @lru_cache

Continued:
- check if domain is valid before checking if it is blacklisted, else an
  exception will raise

Continued:
- check all URLs against validator

Continued:
- also search for instances with detected software

Continued:
- more checks against blacklist

Continued:
- ops, column and title confused

Continued:
- added list/scoreboard mode for column 'original_software'

Continued:
- added column original_software, it contains the original software name, but
  without any version number or " powered by " in it

Continued:
- more checks against blacklist

Continued:
- added another alias 'lycheebridge' for 'misskey'

Continued:
- added alias 'catodon' for 'misskey'

Continued:
- check blacklist and skip below code
- also handle "error" (int) and "msg" (string) JSON response

Continued:
- check row[software] if not None, then if it is a relay

Continued:
- software.is_relay() doesn't allow None/empty strings, let's handle them, too

Continued:
- daemon.py is already executable

Continued:
- skip blacklisted domains (aka. instances)

Continued:
- `foo is None or foo == ""` can be simplified to `foo in [None, ""]`
- added more blacklist check
- improved/added some debug messages

Continued:
- fixed copy-paste mistakes in debug messages

Continued:
- ops, one parameter 'key' to much ...

Continued:
- check domain more again blacklist to avoid bad function invocations
- improved some debug logging messages

Continued:
- also log 'path' here

Continued:
- nodeinfo_url is not always a path only, better don't handle it over
- check if parameter 'path' starts with a slash if not 'None'

Continued:
- should be always aliased ;-)

Continued:
- renamed $DOMAINS to $DOMAIN_LIST (Bash script)
- need to exclude None as possible value for parameter 'path'
- added another parked domain

Blacklist updated:
- added mass sub-domain flooder
- added fb.me (Facebook websites)

Continued:
- these parked domains are the pest of the Internet :-( They just don't contain
  any real content and flood crawl indexes and tables such as 'instances' in
  this software

Continued:
- Parameter 'path' need to start with a slash
- checked more against blacklist
- logger message after API returned JSON made similar

Continued:
- cached function software.alias()
- moved cached initialization to file header

Continued:
- also cache invocations of raise_on() which is being very often invoked

Continued:
- first check parameter (better performance)
- cache is_wanted() and is_in_url() invocations

Continued:
- blocked more parked domains

Continued:
- parked domains blocked

Continued:
- also skip empty 'href' values
- include 'infos' array, too

Continued:
- rewrote so all parameters for command fetch_blocks() can have parameter --force
- added parameter --only-none

Continued:
- added 'sutty.nl' for flooding fediverse with useless "instances"
- it is a mass website hoster

Continued:
- improved/added debug lines

Continued:
- added another array dimension where an error message might be set

Continued:
- check config key against "true"
- improved logger messages
- added some

Fixed:
- identing must be always aligned

Continued:
- you can now optionally allow I2P domains being crawled (default: forbidden =
  clear-net)

Continued:
- improved/added some debug lines

Continued:
- added dynamic IP address and hostname provider to blacklist

Continued:
- ops, fixed syntax error

Continued:
- added parked domain
- added another list for seirdy.one

Continued:
- also track response time during raised exceptions

Continued:
- added last_response_time to templates
- moved cookie clearing to proper place (?)

Continued:
- also need to reduce depth here

Continued:
- added alias 'write.as' for 'writefreely'

Continued:
- handle empty peer list differently than fetching none
- added alias 'mbin' for software 'kbin'

Continued:
- 'misskey' is also a software using obfuscation of blocked instances
- let us better combine None/empty string

Continued:
- lemmy may also use obfuscation
- also check entries when has_obfuscation is NULL

Continued:
- more redundant checks against blacklist to avoid bad function invocations

Continued:
- more blacklist checks
- some formatting

Continued:
- more named parameters
- added some debug/warning lines

Continued:
- moved translation list out of function (would reinitialized each time)

Continued:
- re-indented

Continued:
- named parameters
- skip None type

Continued:
- empty strings are not accepted as block reasons, better 'None' instead

Continued:
- added command "fetch_relaylist" to fetch relays from relaylist.com

Continued:
- added debug lines (each loop should start with a debug line)

Continued:
- added another testing site 'tunnel.silicon.moe'

Continued:
- fixed some errors (ops)

Continued:
- lesser code block indenting

Continued:
- duplicate line removed

Continued:
- not less websites set their (sub-)domain name as software
- maybe let's double-check them if they have fixed it

Continued:
- added another alias for misskey

Continued:
- moved url list to fba/helpers/blocklists.py
- always update count of obfuscated domains

Continued:
- added missing parameter for SQL queries
- added some aliases for misskey

Continued:
- maybe also -rc came here

Continued:
- this instance has repeatedly (3x) caused an OOM (Out-Of-Memory) error here