fetch_instances.py

   1 from requests import get
   2 from hashlib import sha256
   3 import sqlite3
   4 import sys
   5 import json
   6
   7 domain = sys.argv[1]
   8
   9 headers = {
  10     "user-agent": "Mozilla/5.0 (Windows NT 10.0; rv:91.0) Gecko/20100101 Firefox/91.0"
  11 }
  12
  13
  14 def get_hash(domain: str) -> str:
  15     return sha256(domain.encode("utf-8")).hexdigest()
  16
  17
  18 def get_peers(domain: str) -> str:
  19     try:
  20         res = get(f"https://{domain}/api/v1/instance/peers", headers=headers, timeout=5)
  21         return res.json()
  22     except:
  23         return None
  24
  25 peerlist = get_peers(domain)
  26
  27 def get_type(instdomain: str) -> str:
  28     try:
  29         res = get(f"https://{instdomain}/nodeinfo/2.1.json", headers=headers, timeout=5)
  30         if res.status_code == 404:
  31             res = get(f"https://{instdomain}/nodeinfo/2.0.json", headers=headers, timeout=5)
  32         if res.ok and "text/html" in res.headers["content-type"]:
  33             res = get(f"https://{instdomain}/nodeinfo/2.1", headers=headers, timeout=5)
  34         if res.ok:
  35             if res.json()["software"]["name"] == "akkoma":
  36                 return "pleroma"
  37             else:
  38                 return res.json()["software"]["name"]
  39         elif res.status_code == 404:
  40             res = get(f"https://{instdomain}/api/v1/instance", headers=headers, timeout=5)
  41         if res.ok:
  42             return "mastodon"
  43     except:
  44         return None
  45
  46
  47 conn = sqlite3.connect("blocks.db")
  48 c = conn.cursor()
  49
  50 c.execute(
  51     "select domain from instances where 1"
  52 )
  53
  54 for instance in peerlist:
  55     print(instance)
  56     try:
  57         if c.fetchone() == None:
  58             c.execute(
  59                 "insert into instances select ?, ?, ?",
  60                 (instance, get_hash(instance), get_type(instance)),
  61             )
  62         conn.commit()
  63     except Exception as e:
  64         print("error:", e, blocker)
  65 conn.close()