Continued:
- maybe str(e) helps here and there?

Continued:
- only a warning, 'activitypub-troll.cf' is to much rampant
- skip to next entry in case if being blacklisted or no 'host' found

Continued:
- 100 rows should work! (the fail-safe check "fetched versus expected" will
  kick in here)
- also read origin and pass over 'origin' during fetching instances

Continued:
- encapsulted into function add_peers()
- need to add "Content-Type: application/json" for API requests, thanks to Kromonos
- introduced 'api_headers' for JSON API requests

Continued:
- more consistency in table column names and also corresponding variables

Continued:
- res.json() can somtimes not being checked (?)
- also need to check each element as it might return 'None' causing error

Continued:
- some misskey instances only allow 10 items per fetch
- also used more masked strings

Continued:
- also ngrok-free.app is a testing/development ground, no productive/live
  instances will be found there
- please don't abuse their kind services for hosting a live instance!
- didn't log variable "instance", ops

Continued:
- let also user install their software on sub paths ...

Continued:
- don't name your variables after packages, Python seem to be not strict on
  checking data types while referencing
- also scan misskey instances for new (no filter applied)

Continued:
- these aren't supposed to be real URLs, they COULD be reached actually
- these URLs are references, not crawlable URLs
- so some people overdoze the SSL here a little, as http:// is just enough
  for referencing to a specification

Continued:
- introduced fba.is_instance_registered()

Continued:
- also check for version numbers if no dot is in

Continued:
- including the configured base_url didn't make sense, let's better state
  clearly what you will get (recently blocked instances)

Continued:
- ops, I need to check again API response code
- also variable 'json' isn't here, need to take 'res.json()' directly

Continued:
- better only temporary split semicolon off, not from input variable

Continued:
- added regex for hexa-decimal "version numbers"
- removed some extras from (software) generator before checking it against a regex

Continued:
- one character more to remove which cuts of the separator, e.g. '/'
- also don't raise exceptions here, a returned unmodified software name is just fine

Continued:
- also expose these RSS URLs for auto-discovery

Continued:
- also strip out " by " and " see " (self-advertisement)
- same with " version"
- some version numbers had uncommon long patch levels, e.g. 8.0.0000

Continued:
- also try to remove 'powered by ' and other self-advertisement from software
  type

Continued:
- old Friendica installations (I found one with 2019.03) may have version
  number in software's name info and in format YYYY.MM (and maybe later others)

Continued:
- an INFO message is okay, let the user know that the <meta name='generator'>
  was found and taken as the software behind the instance/website

Continued:
- DEBUG is okay here

Continued:
- ops, need to include [domain] for nodeinfos array, too
- more flexible check if a domain has pending nodeinfos

Continued:
- return modified software name when no common separator was found

Continued:
- added 'GENERATOR' as "detection mode"
- explained NULL in 'detection_mode'

Continued:
- try to strip off version numbers from software name
- remove_version() will output a warning and return 'software' unmodified if it
  fails to match version number against regex

Continued:
- encapsulated deleting of pending errors in remove_pending_error()
- introduced fetch_generator_from_path() and used it as last fall-back

Continued:
- "guessing" it didn't really work, let's take <meta name='generator'> as the
  software type, some people even change that and have no /.well-known/ path
  enabled. Then they cannot federate anymore, at least not by auto-discovery

Continued:
- after sorting by count, sort by software name

Continued:
- output fetched rows so it is clear it might take some time to finish

Continued:
- fixed debug message (ops)
- commented out noisy debug lines

Continued:
- tidyup() used for header.text
- moved translations table to header
- renamed variable

Continued:
- reformatted, I tried to use post_json_api() for bot postings

Continued:
- 'mode' must be used also for these elements

Continued:
- also including 'follower', not only 'following'

Continued:
- PeerTube has discoverable instances lists, so let us browse them

Continued:
- no shortening of packages

Continued:
- if fetching nodeinfo was successful, then clear any status codes and error
  messages for this instance
- also tidyup() found instance, some are invalid :-(

Continued:
- ops, my mistake to remove array element while it is still needed

Continued:
- use validators.domain() for checking if it is a valid domain (and host name)

Continued:
- lemmy has an other API URL and also other JSON output for getting more peers
- Unfinished: Fetching blocks from Lemmy

Continued:
- if the software being used isn't regonized, skip them

Continued:
- also check if 'blocker' is meanwhile blocked (WIP)

Continued:
- these are system-specific service files

Continued:
- added more mastodon-typical fields

Continued:
- added get_peers_url column
- flush any pending data after get_peers() was invoked
- blacklisted already added instances should be removed (WIP)

Continued:
- flexible handling of SQL columns and values

Continued:
- added detection_mode and nodeinfo_url to table 'instances'
- described arrays

Continued:
- found a Japanese "limited server" phrase

Continued:
- also 'meisskey' is an alias of misskey software

Continued:
- proper URLs with base_url
- all JSON replies now start with /api/

Continued:
- reduce amount of rows to one (performance)

Continued:
- log entire exception message
- show number of errorous instances

Continued:
- try to update last error details and with a fake status_code

Continued:
- proper place
- also log status_code

Continued:
- older versions are okay, too!

Continued:
- both isn't fully supported, only peer-disovery works

Continued:
- Takahe added (partly WIP)

Continued:
- strip out pipes from software names, too

Continued:
- added other node rel

Continued:
- also log these errors

Continued:
- first try auto-discovery, then static list

Continued:
- fetching .well-known/nodeinfo for auto-discovery added

Continued:
- also include bookwyrm in instance discovering (blocks is WIP)

Continued:
- added support for very old Mastodon instances, e.g. 2.x has no "software" in nodeinfo

Continued:
- fixed bad handling of errors during nodeinfo discovery

Continued:
- sorted nodeinfo API URLs by version
- added 1.0

Continued:
- renamed variable
- used more tidyup()

Continued:
- try to strip of path if not aliased and known
- fixed some errors

Continued:
- nicer look
- tidy up software, too

Continued:
- no local variable needed

Continued:
- keep connection and read timeout separate

Continued:
- don't shorten variable names, wrong lazyness

Continued:
- res.reason is just a text respresentation of the code

Continued:
- also log last detailed error message
- introduced fba.is_blacklisted()

Continued:
- make all software names lower-case
- also include initial instance

Continued:
- added top X for used software

Continued:
- rewrote a bit

Continued:
- added top-referencing instances scoreboard

Continued:
- added first_seen and last_updated to instances table
- moved timestamp creation to functions (lesser parameter)

Continued:
- reformatted config.defaults.json
- also store script name

Continued:
- it is more the originator ...

Continued:
- added origin to track which instance has referenced this one

Continued:
- looks cooler this way

Continued:
- only fetch these, others are WIP

Continued:
- COUNT() is a SQL function, also always upper-case

Continued:
- added last_blocked to reduce requering instances to often (be nice!)

Continued:
- try block must be around software type checking, not the reqto.foo() call

Continued:
- some improvements

Continued:
- always update last_nodeinfo

Continued:
- renamed last_access to last_nodeinfo as fetch_blocks will have its own
  last access timestamp

Continued:
- be kind! set recheck_instance to at least 3600 seconds (one hour)

WIP:
- introduced update_last_access() which will update 'last_access' by instance's
  domain

Continued:
- rewrote fetch_nodeinfo() to test all URLs

Continued:
- introduced fba.fetch_nodeinfo()

Continued:
- some instances reported others with '@' in it which isn't correct for a
  domain name/host IP

Continued:
- also show domain and software (mostly 'None')

WIP:
- blocked spam domain
- also discover more instances by quering already existing instances