Continued:
- one character more to remove which cuts of the separator, e.g. '/'
- also don't raise exceptions here, a returned unmodified software name is just fine

Continued:
- also expose these RSS URLs for auto-discovery

Continued:
- also strip out " by " and " see " (self-advertisement)
- same with " version"
- some version numbers had uncommon long patch levels, e.g. 8.0.0000

Continued:
- also try to remove 'powered by ' and other self-advertisement from software
  type

Continued:
- old Friendica installations (I found one with 2019.03) may have version
  number in software's name info and in format YYYY.MM (and maybe later others)

Continued:
- an INFO message is okay, let the user know that the <meta name='generator'>
  was found and taken as the software behind the instance/website

Continued:
- DEBUG is okay here

Continued:
- ops, need to include [domain] for nodeinfos array, too
- more flexible check if a domain has pending nodeinfos

Continued:
- return modified software name when no common separator was found

Continued:
- added 'GENERATOR' as "detection mode"
- explained NULL in 'detection_mode'

Continued:
- try to strip off version numbers from software name
- remove_version() will output a warning and return 'software' unmodified if it
  fails to match version number against regex

Continued:
- encapsulated deleting of pending errors in remove_pending_error()
- introduced fetch_generator_from_path() and used it as last fall-back

Continued:
- "guessing" it didn't really work, let's take <meta name='generator'> as the
  software type, some people even change that and have no /.well-known/ path
  enabled. Then they cannot federate anymore, at least not by auto-discovery

Continued:
- after sorting by count, sort by software name

Continued:
- output fetched rows so it is clear it might take some time to finish

Continued:
- fixed debug message (ops)
- commented out noisy debug lines

Continued:
- tidyup() used for header.text
- moved translations table to header
- renamed variable

Continued:
- reformatted, I tried to use post_json_api() for bot postings

Continued:
- 'mode' must be used also for these elements

Continued:
- also including 'follower', not only 'following'

Continued:
- PeerTube has discoverable instances lists, so let us browse them

Continued:
- no shortening of packages

Continued:
- if fetching nodeinfo was successful, then clear any status codes and error
  messages for this instance
- also tidyup() found instance, some are invalid :-(

Continued:
- ops, my mistake to remove array element while it is still needed

Continued:
- use validators.domain() for checking if it is a valid domain (and host name)

Continued:
- lemmy has an other API URL and also other JSON output for getting more peers
- Unfinished: Fetching blocks from Lemmy

Continued:
- if the software being used isn't regonized, skip them

Continued:
- also check if 'blocker' is meanwhile blocked (WIP)

Continued:
- these are system-specific service files

Continued:
- added more mastodon-typical fields

Continued:
- added get_peers_url column
- flush any pending data after get_peers() was invoked
- blacklisted already added instances should be removed (WIP)

Continued:
- flexible handling of SQL columns and values

Continued:
- added detection_mode and nodeinfo_url to table 'instances'
- described arrays

Continued:
- found a Japanese "limited server" phrase

Continued:
- also 'meisskey' is an alias of misskey software

Continued:
- proper URLs with base_url
- all JSON replies now start with /api/

Continued:
- reduce amount of rows to one (performance)

Continued:
- log entire exception message
- show number of errorous instances

Continued:
- try to update last error details and with a fake status_code

Continued:
- proper place
- also log status_code

Continued:
- older versions are okay, too!

Continued:
- both isn't fully supported, only peer-disovery works

Continued:
- Takahe added (partly WIP)

Continued:
- strip out pipes from software names, too

Continued:
- added other node rel

Continued:
- also log these errors

Continued:
- first try auto-discovery, then static list

Continued:
- fetching .well-known/nodeinfo for auto-discovery added

Continued:
- also include bookwyrm in instance discovering (blocks is WIP)

Continued:
- added support for very old Mastodon instances, e.g. 2.x has no "software" in nodeinfo

Continued:
- fixed bad handling of errors during nodeinfo discovery

Continued:
- sorted nodeinfo API URLs by version
- added 1.0

Continued:
- renamed variable
- used more tidyup()

Continued:
- try to strip of path if not aliased and known
- fixed some errors

Continued:
- nicer look
- tidy up software, too

Continued:
- no local variable needed

Continued:
- keep connection and read timeout separate

Continued:
- don't shorten variable names, wrong lazyness

Continued:
- res.reason is just a text respresentation of the code

Continued:
- also log last detailed error message
- introduced fba.is_blacklisted()

Continued:
- make all software names lower-case
- also include initial instance

Continued:
- added top X for used software

Continued:
- rewrote a bit

Continued:
- added top-referencing instances scoreboard

Continued:
- added first_seen and last_updated to instances table
- moved timestamp creation to functions (lesser parameter)

Continued:
- reformatted config.defaults.json
- also store script name

Continued:
- it is more the originator ...

Continued:
- added origin to track which instance has referenced this one

Continued:
- looks cooler this way

Continued:
- only fetch these, others are WIP

Continued:
- COUNT() is a SQL function, also always upper-case

Continued:
- added last_blocked to reduce requering instances to often (be nice!)

Continued:
- try block must be around software type checking, not the reqto.foo() call

Continued:
- some improvements

Continued:
- always update last_nodeinfo

Continued:
- renamed last_access to last_nodeinfo as fetch_blocks will have its own
  last access timestamp

Continued:
- be kind! set recheck_instance to at least 3600 seconds (one hour)

WIP:
- introduced update_last_access() which will update 'last_access' by instance's
  domain

Continued:
- rewrote fetch_nodeinfo() to test all URLs

Continued:
- introduced fba.fetch_nodeinfo()

Continued:
- some instances reported others with '@' in it which isn't correct for a
  domain name/host IP

Continued:
- also show domain and software (mostly 'None')

WIP:
- blocked spam domain
- also discover more instances by quering already existing instances

Continued:
- copy-paste mistake fixed
- it must be 'port'

Continued:
- need to check if current "step"'s entries are lesser than expected to
  break out loop

Continued:
- added more debug lines
- if zero sized list is being returned, quit the loop, again raised exceptions
  are NOT there for your flow-control!

Continued:
- added auto-discoverable RSS feed
- introduced post_json_api()
- some debug lines added

Continued:
- more formatting

Continued:
- some instances don't have a block list

Continued:
- you better should check an array on a specific key with `key in my_array`

Continued:
- do not include anything that is empty after being cleared (exception reason)

Very noisy debug lines

Let's better say "unknown"

Continued:
- more debug lines added

Continued:
- INFO level is okay here
- in the end, variable 'reason' wasn't defined

Continued:
- variable 'peer' can be type of string in case or error, so let's gently
  abort here instead of running into error (catching exceptions isn't a proper
  flow-control)

Continued:
- ops, to happy with "fba." adding
- added more debug lines

Continued:
- lesser direct function imports
- fixed some errors

Ops!

Continued:
- removed unused imports
- set LIMIT 1
- improved a bit debug messages