fetch_instances.py

   1 from requests import get
   2 from hashlib import sha256
   3 import sqlite3
   4 import sys
   5 import json
   6
   7 domain = sys.argv[1]
   8
   9 headers = {
  10     "user-agent": "Mozilla/5.0 (Windows NT 10.0; rv:102.0) Gecko/20100101 Firefox/102.0"
  11 }
  12
  13
  14 def get_hash(domain: str) -> str:
  15     return sha256(domain.encode("utf-8")).hexdigest()
  16
  17
  18 def get_peers(domain: str) -> str:
  19     try:
  20         res = get(f"https://{domain}/api/v1/instance/peers", headers=headers, timeout=5)
  21         return res.json()
  22     except:
  23         return None
  24
  25 peerlist = get_peers(domain)
  26
  27 def get_type(instdomain: str) -> str:
  28     try:
  29         res = get(f"https://{instdomain}/nodeinfo/2.1.json", headers=headers, timeout=5)
  30         if res.status_code == 404:
  31             res = get(f"https://{instdomain}/nodeinfo/2.0", headers=headers, timeout=5)
  32         if res.status_code == 404:
  33             res = get(f"https://{instdomain}/nodeinfo/2.0.json", headers=headers, timeout=5)
  34         if res.ok and "text/html" in res.headers["content-type"]:
  35             res = get(f"https://{instdomain}/nodeinfo/2.1", headers=headers, timeout=5)
  36         if res.ok:
  37             if res.json()["software"]["name"] == "akkoma":
  38                 return "pleroma"
  39             elif res.json()["software"]["name"] == "rebased":
  40                 return "pleroma"
  41             elif res.json()["software"]["name"] == "hometown":
  42                 return "mastodon"
  43             elif res.json()["software"]["name"] == "ecko":
  44                 return "mastodon"
  45             else:
  46                 return res.json()["software"]["name"]
  47         elif res.status_code == 404:
  48             res = get(f"https://{instdomain}/api/v1/instance", headers=headers, timeout=5)
  49         if res.ok:
  50             return "mastodon"
  51     except:
  52         return None
  53
  54
  55 conn = sqlite3.connect("blocks.db")
  56 c = conn.cursor()
  57
  58 c.execute(
  59     "select domain from instances where 1"
  60 )
  61
  62 for instance in peerlist:
  63     instance = instance.lower()
  64     print(instance)
  65     try:
  66         c.execute(
  67             "select domain from instances where domain = ?", (instance,)
  68         )
  69         if c.fetchone() == None:
  70             c.execute(
  71                 "insert into instances select ?, ?, ?",
  72                 (instance, get_hash(instance), get_type(instance)),
  73             )
  74         conn.commit()
  75     except Exception as e:
  76         print("error:", e, instance)
  77 conn.close()