Continued:
- fetch all data in /list view
- added total_peers and total_blocks to be exposed

Continued:
- added parameter --software3 which searchinf for a file 'software.txt'
- you can generate this by running e.g.
  sqlite3 ./blocks.db "SELECT software FROM instances WHAT_EVER_PARAMETER;" > software.txt
- reset nodeinfo_url if software is now None
- always set complete URL, including domain

Continued:
- renamed fetch_nodeinfo() to fetch() as it is already part of module nodeinfo
- added 3rd optional parameter to it, fetching of /.well-known/* isn't then
  required anymore and saves another request
- also the wanted URL can be directly used

Continued:
- also order this list by total peers first, then row id

Continued:
- also order by rowid descending

Continued:
- sorted domains for fetch_blocks after how many total blocks have already been
  found

Continued:
- neodb is providing at least /apt/v1/instance/peers

Continued:
- strip spaces off

Continued:
- added "dynamic alias" for software type 'gnusocial'

Continued:
- added parameter --mode for updating node-info for detection mode
- this mode does only check outdated instances

Continued:
- added parameter --no-software which fetching instances with no software
  detected and not recently being checked
- the parameter --force is not re-checking recently entries. If you want this
  you need to use ./nodeinfo.sh --software --force but be kind to other
  webmasters!

Continued:
- some websites are so badly configured that they return a broken gzip body
- let's handle that exception here, too

Continued:
- wording fixed

Continued:
- ops, don't link None

Continued:
- added alias 'russkey' for 'misskey'

Continued:
- no, nope: validators.hostname() was a bad idea, it also let IP addresses and
  local host names in as well
- added command remove_invalid to remove those from database
- renamed recheck.sh -> nodeinfo.sh

Continued:
- chaos.social isn't part of oliphant, so it still requires being handled
  separately
- fetch software/origin from local database instead software from remote
  nodeinfo (saves some requests to their servers)

Continued:
- links from infos.html view to list.html added

Fixed:
- I missed changing this one

Continued:
- use validators.hostname() as these are host names

Continued:
- fixed instance (host) names with two dots causing a UnicodeError

Continued:
- need to skip recently but unknown instances (software is None but nodeinfo
  has recently being updated

Continued:
- don't invoke federation.fetch_instances() when last_instance_fetch is
  recently being updated (means recently being fetch already)
- column for instances.is_recent() needs to now only start with "last_"
- don't determine unknown software if instances was recently fetched

Fixed:
- ops, didn't notice the inverted function name (my fault)
- also added proper debug message

Continued:
- typical for oliphant members: Hide their own blocklist and then handle it
  over to Codeberg repository of oliphant
- this helper now has a simple function to check if the provided domain should
  be excluded

Continued:
- added detection-mode 'APP_NAME' which reflects meta information
  name="application-name"
- allow checking generator type if status code 410 (Gone) is given, e.g.
  wordpress.com still returns a full HTML code to check

Continued:
- also re-check 'GENERATOR' detection mode

Continued:
- switched: PLATFORM before GENERATOR, the last one can be "personalized"

Continued:
- added --software2 for re-checking instances with `software` given and no
 `detection_mode` given
- also added og:platform to HTML base template

Continued:
- combine all discourse into one

Continued:
- no need to enter json.from_response() when response isn't okay or status code
  != 200 was found

Continued:
- show depth here, too

Continued:
- 'nube' is Spain and means cloud in English, this is another (valid) alias for 'nextcloud'

Continued:
- renamed report.txt to report.log

Continued:
- these commands can never have origin=None, so let's prevent them here

Continued:
- fba.commands.fetch_blocks() does the last checkup if the domain is valid et
  cetera, including deobfuscation

Continued:
- you can now with --feed=https://some-fba/feed.atom specify an other ATOM feed
  from an FBA/Pleroma bot
- parserset_defaults() is now specified first, then additional parameter

Continued:
- added __version__

Continued:
- is_recent() check doesn't make sense here, if the domain isn't registered
  it cannot be recently checked (ops)

Continued:
- also store peer count for relays

Continued:
- added debug line

Continued:
- ignore unsupported content type when response.text has zero length

Continued:
- ops, missed 1st parameter

Continued:
- added --timeout option for easy re-checking instances with timeout
- please increase "connection_timeout" and "read_timeout" config keys first!

Continued:
- added network 'mammuthus[ experimental]' for retriving peers
- moved software-related (not version number) functions to software.py
- strip off " experimental", so you can enter e.g. 'mammuthus' easier

Continued:
- don't link or show 'None', just a dash is okay

Continued:
- throw exception again, if they happen then they won't be fixed within a
  split of a second
- also make sure that home directory of FBA is properly set, sure you can
  choose a different directory or take the default /home/fba/
- added recheck.sh, a small wrapper script I wrote for myself and you should
  try. For example above exceptions might cause the used software not being
  detected (sure with timeouts) then you can run ./recheck.sh --software
  to re-test them

Continued:
- ignore 'None' as content-type it often happens with Lemmy instannces

Continued:
- update last_blocked timestamp when a blocklist has been fetched/generated for
  an instance aka. "blocker"

Continued:
- also mode=obfuscator is showing software names, let's link them, too

Continued:
- prevent blacklisted entries being processed, throw an exception if it happens

Continued:
- added re+ as alias but not with a regular + sign but UTF-8 encoded ...

Fixed:
- also need to check if data[json] has at least one entry
- mode=avg_peers shows software names, let's link to /list?mode=software here

Continued:
- don't reset during exceptions, maybe later they have fixed their instance

Continued:
- move nodeinfo handling to new module 'nodeinfo'
- also had to renamed variable nodeinfo to other names
- first newest version at /.well-known/x-nodeinfo2

Continued:
- check if bot_token is configured

Continued:
- again a lot of creativity was found, so let's clean this up to 'nextcloud'
  for later support (if they later add it)

Continued:
- added alias for forgejo

Continued:
- also show in scoreboard when an unsupported mode was provided
- fixed indenting

Continued:
- run.app is another mass-hoster for testing/developing code, no real instances
  are hosted there

Continued:
- command fetch_relays() should be locked
- fixed exception when row[column] is NoneType

Partly reverted cdcd2b0109e126bca887d0712a7ddf602e5d6e62:
- "Accept" is not being accepted by misskey (gladly only these instances)
- it must be "Content-Type: application/json" or otherwise it is blocked

Continued:
- mode 'origin' added for header
- also unsupported are shown

Continued:
- moved/renamed utils.is_domain_wanted() to domain_helper.is_wanted()
- removed no longer used imports
- tpzo fixed: sof(t)ware

Continued:
- let also find instances by origin
- added target and title attributes

Continued:
- blacklisted 'vercel.app'

Continued:
- can be more accepted charsets

Continued:
- only set success (status code 200) when software was determined

Continued:
- owohub is yet another alias for misskey

Continued:
- request header is "Accept"
- also need to send api_headers (ops)
- need to convert variable 'path' to string

Continued:
- fixed instances.is_recent()
- blacklisted misskey-forkbomb.cf (the name says it)
- logger level changed to debug

Continued:
- added command fetch_joinmobilizon() to fetch instances JSON for mobilizon
  (federated events)

Continued:
- instances.is_recent() now checks recheck_block if 'last_blocked' is provided
- command fetch_blocks() now supports --force parameter
- blacklisted fnaf.stream as this domain has super-long sub-domains (troll)

Continued:
- ignorelist.com is also for testing/developing

Continued:
- added column `obfuscated_blocks` to save count of (still) obfuscated blocks
- also exposed it in infos.html view
- blacklisted gitpod.io as this domain floods `instances` table

Continued:
- added command fetch_relay() for fetching instances from ActivityPub relays
  which show their peers in index page (/)
- added grid.tf as this flooded a lot "testing/developing" sub domains

Continued:
- custom aoderelay name aliased

Continued:
- radiant is being "detected" as mastodon and needs to be skipped
- unless forced, skip any recently checked nodeinfos

Continued:
- added Korean translation of Mastodon

Continued:
- added info messages when a website is being fetched

Continued:
- let's not iterate directly (always possible, of course) on the CSV reader
  object, but generate a list from its rows
- this also allow us to check if 'reader' is not NoneType

Continued:
- added alias iceshrimp (misskey)

Continued:
- added more aliases, please don't touch this part of your software or else
  other software cannot maybe handle it correctly

Continued:
- added support for x-nodeinfo2 which can be directly fetched from /.well-known/
  "directory"
- also rewrote fetching well-known nodeinfo URLs to more flexible way

Optimized:
- first simple checks then invoke methods
- recheck_obfuscation() is about block lists, not instances, therefore we need
  to check 'last_blocked' timestamp

Continued:
- fetch_fedipact() belongs to beach.city, those who have their blocklist
  "hidden" in a federated account

Continued:
- better check if no peers has further been added

Continued:
- simplified some lines ({node})

Continued:
- no need to issue warnings for these messages

Continued:
- added more checks for misskey forks

Continued:
- areionskey is not misskey, but it supports at least fetch_instances

Continued:
- added command fetch_joinmisskey to fetch instances from misskey.pages service

Continued:
- skip already blocked domains by any oliphant members

Continued:
- copy-paste mistake from blocks list

Continued:
- added alias fedibird as this is mastodon

Continued:
- added mitra network supporting fetch_instances (not domain_blocks unfortunate)
- if I fetch domain blocks from chaos.social, it is being reset to zero, so
  let's better bypass it here

Continued:
- added aliases for pleroma/misskey

Continued:
- is a dict, keys total, activeHalfyear, activeMonth and maybe more might be
  part of it

Continued:
- cannot on-the-fly convert a list(?) of sqlite3.Row objects dicts

Continued:
- prepared for reverse-proxy, e.g. Apache/nginx
- configuration keys "scheme" (newly added) and "hostname" are how your FBA
  instance is called from outside, I was not able to find any other way as
  url_for() was returning a http:// URL and not a https:// ... :-(