fba/networks/peertube.py

   1 # Fedi API Block - An aggregator for fetching blocking data from fediverse nodes
   2 # Copyright (C) 2023 Free Software Foundation
   3 #
   4 # This program is free software: you can redistribute it and/or modify
   5 # it under the terms of the GNU Affero General Public License as published
   6 # by the Free Software Foundation, either version 3 of the License, or
   7 # (at your option) any later version.
   8 #
   9 # This program is distributed in the hope that it will be useful,
  10 # but WITHOUT ANY WARRANTY; without even the implied warranty of
  11 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12 # GNU Affero General Public License for more details.
  13 #
  14 # You should have received a copy of the GNU Affero General Public License
  15 # along with this program.  If not, see <https://www.gnu.org/licenses/>.
  16
  17 import logging
  18
  19 from fba.helpers import blacklist
  20 from fba.helpers import config
  21 from fba.helpers import domain as domain_helper
  22
  23 from fba.http import csrf
  24 from fba.http import network
  25
  26 from fba.models import instances
  27
  28 logging.basicConfig(level=logging.INFO)
  29 logger = logging.getLogger(__name__)
  30
  31 def fetch_peers(domain: str) -> list:
  32     logger.debug("domain='%s' - CALLED!", domain)
  33     domain_helper.raise_on(domain)
  34
  35     if blacklist.is_blacklisted(domain):
  36         raise Exception(f"domain='{domain}' is blacklisted but function is invoked.")
  37
  38     # Init variables
  39     peers   = list()
  40     headers = tuple()
  41     start   = 0
  42
  43     try:
  44         logger.debug("Checking CSRF for domain='%s'", domain)
  45         headers = csrf.determine(domain, dict())
  46     except network.exceptions as exception:
  47         logger.warning("Exception '%s' during checking CSRF (fetch_peers,%s)", type(exception), __name__)
  48         instances.set_last_error(domain, exception)
  49
  50         logger.debug("Returning empty list ... - EXIT!")
  51         return list()
  52
  53     for mode in ["followers", "following"]:
  54         logger.debug("domain='%s',mode='%s'", domain, mode)
  55         while True:
  56             data = network.get_json_api(
  57                 domain,
  58                 f"/api/v1/server/{mode}?start={start}&count=100",
  59                 headers,
  60                 (config.get("connection_timeout"), config.get("read_timeout"))
  61             )
  62
  63             logger.debug("data[]='%s'", type(data))
  64             if "error_message" in data:
  65                 logger.warning("domain='%s' causes error during API query: '%s' - SKIPPED!", domain, data["error_message"])
  66                 break
  67             elif "data" not in data["json"]:
  68                 logger.warning("domain='%s' has no 'data' element returned - SKIPPED!", domain)
  69                 break
  70             else:
  71                 logger.debug("Success, data[json]()=%d", len(data["json"]))
  72                 instances.set_success(domain)
  73
  74                 rows  = data["json"]["data"]
  75
  76                 logger.debug("Found %d record(s).", len(rows))
  77                 for record in rows:
  78                     logger.debug("record()=%d", len(record))
  79                     for mode2 in ["follower", "following"]:
  80                         logger.debug("mode=%s,mode2='%s'", mode, mode2)
  81                         if mode2 not in record:
  82                             logger.debug("Array record does not contain element mode2='%s' - SKIPPED", mode2)
  83                             continue
  84                         elif "host" not in record[mode2]:
  85                             logger.debug("record[%s] does not contain element 'host' - SKIPPED", mode2)
  86                             continue
  87                         elif record[mode2]["host"] == domain:
  88                             logger.debug("record[%s]='%s' matches domain='%s' - SKIPPED!", mode2, record[mode2]["host"], domain)
  89                             continue
  90                         elif not domain_helper.is_wanted(record[mode2]["host"]):
  91                             logger.debug("record[%s][host]='%s' is not wanted - SKIPPED!", mode2, record[mode2]["host"])
  92                             continue
  93
  94                         logger.debug("Appending mode2='%s',host='%s' ...", mode2, record[mode2]["host"])
  95                         peers.append(record[mode2]["host"])
  96
  97                 if len(rows) < 100:
  98                     logger.debug("Reached end of JSON response, domain='%s'", domain)
  99                     break
 100
 101                 # Continue with next row
 102                 start = start + 100
 103
 104     logger.debug("peers[%s]()=%d - EXIT!", type(peers), len(peers))
 105     return peers