fetch_instances.py

   1 from requests import get
   2 from hashlib import sha256
   3 import sqlite3
   4 import sys
   5 import json
   6
   7 domain = sys.argv[1]
   8
   9 headers = {
  10     "user-agent": "Mozilla/5.0 (Windows NT 10.0; rv:102.0) Gecko/20100101 Firefox/102.0"
  11 }
  12
  13
  14 def get_hash(domain: str) -> str:
  15     return sha256(domain.encode("utf-8")).hexdigest()
  16
  17
  18 def get_peers(domain: str) -> str:
  19     try:
  20         res = get(f"https://{domain}/api/v1/instance/peers", headers=headers, timeout=5)
  21         return res.json()
  22     except:
  23         return None
  24
  25 peerlist = get_peers(domain)
  26
  27 def get_type(instdomain: str) -> str:
  28     try:
  29         res = get(f"https://{instdomain}/nodeinfo/2.1.json", headers=headers, timeout=5)
  30         if res.status_code == 404:
  31             res = get(f"https://{instdomain}/nodeinfo/2.0", headers=headers, timeout=5)
  32         if res.status_code == 404:
  33             res = get(f"https://{instdomain}/nodeinfo/2.0.json", headers=headers, timeout=5)
  34         if res.ok and "text/html" in res.headers["content-type"]:
  35             res = get(f"https://{instdomain}/nodeinfo/2.1", headers=headers, timeout=5)
  36         if res.ok:
  37             if res.json()["software"]["name"] in ["akkoma", "rebased"]:
  38                 return "pleroma"
  39             elif res.json()["software"]["name"] in ["hometown", "ecko"]:
  40                 return "mastodon"
  41             elif res.json()["software"]["name"] in ["calckey", "groundpolis", "foundkey", "cherrypick"]:
  42                 return "misskey"
  43             else:
  44                 return res.json()["software"]["name"]
  45         elif res.status_code == 404:
  46             res = get(f"https://{instdomain}/api/v1/instance", headers=headers, timeout=5)
  47         if res.ok:
  48             return "mastodon"
  49     except:
  50         return None
  51
  52
  53 conn = sqlite3.connect("blocks.db")
  54 c = conn.cursor()
  55
  56 c.execute(
  57     "select domain from instances where 1"
  58 )
  59
  60 for instance in peerlist:
  61     instance = instance.lower()
  62     print(instance)
  63     try:
  64         c.execute(
  65             "select domain from instances where domain = ?", (instance,)
  66         )
  67         if c.fetchone() == None:
  68             c.execute(
  69                 "insert into instances select ?, ?, ?",
  70                 (instance, get_hash(instance), get_type(instance)),
  71             )
  72         conn.commit()
  73     except Exception as e:
  74         print("error:", e, instance)
  75 conn.close()