include/items.php

   1 <?php
   2 /**
   3  * @file include/items.php
   4  */
   5 use Friendica\App;
   6 use Friendica\Content\Feature;
   7 use Friendica\Core\Addon;
   8 use Friendica\Core\Config;
   9 use Friendica\Core\PConfig;
  10 use Friendica\Core\Worker;
  11 use Friendica\Core\System;
  12 use Friendica\Database\DBM;
  13 use Friendica\Model\Contact;
  14 use Friendica\Model\GContact;
  15 use Friendica\Model\Group;
  16 use Friendica\Model\Term;
  17 use Friendica\Model\User;
  18 use Friendica\Model\Item;
  19 use Friendica\Object\Image;
  20 use Friendica\Protocol\DFRN;
  21 use Friendica\Protocol\OStatus;
  22 use Friendica\Protocol\Feed;
  23 use Friendica\Util\ParseUrl;
  24
  25 require_once 'include/bbcode.php';
  26 require_once 'include/tags.php';
  27 require_once 'include/text.php';
  28 require_once 'include/threads.php';
  29 require_once 'include/plaintext.php';
  30 require_once 'mod/share.php';
  31 require_once 'include/enotify.php';
  32
  33 function construct_verb($item) {
  34         if ($item['verb']) {
  35                 return $item['verb'];
  36         }
  37         return ACTIVITY_POST;
  38 }
  39
  40 /* limit_body_size()
  41  *
  42  *
  43  *
  44  */
  45
  46 /**
  47  * The purpose of this function is to apply system message length limits to
  48  * imported messages without including any embedded photos in the length
  49  *
  50  * @brief Truncates imported message body string length to max_import_size
  51  * @param string $body
  52  * @return string
  53  */
  54 function limit_body_size($body)
  55 {
  56         $maxlen = get_max_import_size();
  57
  58         // If the length of the body, including the embedded images, is smaller
  59         // than the maximum, then don't waste time looking for the images
  60         if ($maxlen && (strlen($body) > $maxlen)) {
  61
  62                 logger('limit_body_size: the total body length exceeds the limit', LOGGER_DEBUG);
  63
  64                 $orig_body = $body;
  65                 $new_body = '';
  66                 $textlen = 0;
  67
  68                 $img_start = strpos($orig_body, '[img');
  69                 $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
  70                 $img_end = ($img_start !== false ? strpos(substr($orig_body, $img_start), '[/img]') : false);
  71                 while (($img_st_close !== false) && ($img_end !== false)) {
  72
  73                         $img_st_close++; // make it point to AFTER the closing bracket
  74                         $img_end += $img_start;
  75                         $img_end += strlen('[/img]');
  76
  77                         if (! strcmp(substr($orig_body, $img_start + $img_st_close, 5), 'data:')) {
  78                                 // This is an embedded image
  79
  80                                 if (($textlen + $img_start) > $maxlen ) {
  81                                         if ($textlen < $maxlen) {
  82                                                 logger('limit_body_size: the limit happens before an embedded image', LOGGER_DEBUG);
  83                                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
  84                                                 $textlen = $maxlen;
  85                                         }
  86                                 } else {
  87                                         $new_body = $new_body . substr($orig_body, 0, $img_start);
  88                                         $textlen += $img_start;
  89                                 }
  90
  91                                 $new_body = $new_body . substr($orig_body, $img_start, $img_end - $img_start);
  92                         } else {
  93
  94                                 if (($textlen + $img_end) > $maxlen ) {
  95                                         if ($textlen < $maxlen) {
  96                                                 logger('limit_body_size: the limit happens before the end of a non-embedded image', LOGGER_DEBUG);
  97                                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
  98                                                 $textlen = $maxlen;
  99                                         }
 100                                 } else {
 101                                         $new_body = $new_body . substr($orig_body, 0, $img_end);
 102                                         $textlen += $img_end;
 103                                 }
 104                         }
 105                         $orig_body = substr($orig_body, $img_end);
 106
 107                         if ($orig_body === false) {
 108                                 // in case the body ends on a closing image tag
 109                                 $orig_body = '';
 110                         }
 111
 112                         $img_start = strpos($orig_body, '[img');
 113                         $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
 114                         $img_end = ($img_start !== false ? strpos(substr($orig_body, $img_start), '[/img]') : false);
 115                 }
 116
 117                 if (($textlen + strlen($orig_body)) > $maxlen) {
 118                         if ($textlen < $maxlen) {
 119                                 logger('limit_body_size: the limit happens after the end of the last image', LOGGER_DEBUG);
 120                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
 121                         }
 122                 } else {
 123                         logger('limit_body_size: the text size with embedded images extracted did not violate the limit', LOGGER_DEBUG);
 124                         $new_body = $new_body . $orig_body;
 125                 }
 126
 127                 return $new_body;
 128         } else {
 129                 return $body;
 130         }
 131 }
 132
 133 function title_is_body($title, $body) {
 134
 135         $title = strip_tags($title);
 136         $title = trim($title);
 137         $title = html_entity_decode($title, ENT_QUOTES, 'UTF-8');
 138         $title = str_replace(["\n", "\r", "\t", " "], ["", "", "", ""], $title);
 139
 140         $body = strip_tags($body);
 141         $body = trim($body);
 142         $body = html_entity_decode($body, ENT_QUOTES, 'UTF-8');
 143         $body = str_replace(["\n", "\r", "\t", " "], ["", "", "", ""], $body);
 144
 145         if (strlen($title) < strlen($body)) {
 146                 $body = substr($body, 0, strlen($title));
 147         }
 148
 149         if (($title != $body) && (substr($title, -3) == "...")) {
 150                 $pos = strrpos($title, "...");
 151                 if ($pos > 0) {
 152                         $title = substr($title, 0, $pos);
 153                         $body = substr($body, 0, $pos);
 154                 }
 155         }
 156
 157         return ($title == $body);
 158 }
 159
 160 function add_page_info_data($data) {
 161         Addon::callHooks('page_info_data', $data);
 162
 163         // It maybe is a rich content, but if it does have everything that a link has,
 164         // then treat it that way
 165         if (($data["type"] == "rich") && is_string($data["title"]) &&
 166                 is_string($data["text"]) && (sizeof($data["images"]) > 0)) {
 167                 $data["type"] = "link";
 168         }
 169
 170         if ((($data["type"] != "link") && ($data["type"] != "video") && ($data["type"] != "photo")) || ($data["title"] == $data["url"])) {
 171                 return "";
 172         }
 173
 174         if ($no_photos && ($data["type"] == "photo")) {
 175                 return "";
 176         }
 177
 178         // Escape some bad characters
 179         $data["url"] = str_replace(["[", "]"], ["&#91;", "&#93;"], htmlentities($data["url"], ENT_QUOTES, 'UTF-8', false));
 180         $data["title"] = str_replace(["[", "]"], ["&#91;", "&#93;"], htmlentities($data["title"], ENT_QUOTES, 'UTF-8', false));
 181
 182         $text = "[attachment type='".$data["type"]."'";
 183
 184         if ($data["text"] == "") {
 185                 $data["text"] = $data["title"];
 186         }
 187
 188         if ($data["text"] == "") {
 189                 $data["text"] = $data["url"];
 190         }
 191
 192         if ($data["url"] != "") {
 193                 $text .= " url='".$data["url"]."'";
 194         }
 195
 196         if ($data["title"] != "") {
 197                 $text .= " title='".$data["title"]."'";
 198         }
 199
 200         if (sizeof($data["images"]) > 0) {
 201                 $preview = str_replace(["[", "]"], ["&#91;", "&#93;"], htmlentities($data["images"][0]["src"], ENT_QUOTES, 'UTF-8', false));
 202                 // if the preview picture is larger than 500 pixels then show it in a larger mode
 203                 // But only, if the picture isn't higher than large (To prevent huge posts)
 204                 if (!Config::get('system', 'always_show_preview') && ($data["images"][0]["width"] >= 500)
 205                         && ($data["images"][0]["width"] >= $data["images"][0]["height"])) {
 206                         $text .= " image='".$preview."'";
 207                 } else {
 208                         $text .= " preview='".$preview."'";
 209                 }
 210         }
 211
 212         $text .= "]".$data["text"]."[/attachment]";
 213
 214         $hashtags = "";
 215         if (isset($data["keywords"]) && count($data["keywords"])) {
 216                 $hashtags = "\n";
 217                 foreach ($data["keywords"] AS $keyword) {
 218                         /// @todo make a positive list of allowed characters
 219                         $hashtag = str_replace([" ", "+", "/", ".", "#", "'", "’", "`", "(", ")", "„", "“"],
 220                                                 ["", "", "", "", "", "", "", "", "", "", "", ""], $keyword);
 221                         $hashtags .= "#[url=" . System::baseUrl() . "/search?tag=" . rawurlencode($hashtag) . "]" . $hashtag . "[/url] ";
 222                 }
 223         }
 224
 225         return "\n".$text.$hashtags;
 226 }
 227
 228 function query_page_info($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
 229
 230         $data = ParseUrl::getSiteinfoCached($url, true);
 231
 232         if ($photo != "") {
 233                 $data["images"][0]["src"] = $photo;
 234         }
 235
 236         logger('fetch page info for ' . $url . ' ' . print_r($data, true), LOGGER_DEBUG);
 237
 238         if (!$keywords && isset($data["keywords"])) {
 239                 unset($data["keywords"]);
 240         }
 241
 242         if (($keyword_blacklist != "") && isset($data["keywords"])) {
 243                 $list = explode(", ", $keyword_blacklist);
 244                 foreach ($list AS $keyword) {
 245                         $keyword = trim($keyword);
 246                         $index = array_search($keyword, $data["keywords"]);
 247                         if ($index !== false) {
 248                                 unset($data["keywords"][$index]);
 249                         }
 250                 }
 251         }
 252
 253         return $data;
 254 }
 255
 256 function add_page_keywords($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
 257         $data = query_page_info($url, $no_photos, $photo, $keywords, $keyword_blacklist);
 258
 259         $tags = "";
 260         if (isset($data["keywords"]) && count($data["keywords"])) {
 261                 foreach ($data["keywords"] AS $keyword) {
 262                         $hashtag = str_replace([" ", "+", "/", ".", "#", "'"],
 263                                 ["", "", "", "", "", ""], $keyword);
 264
 265                         if ($tags != "") {
 266                                 $tags .= ", ";
 267                         }
 268
 269                         $tags .= "#[url=" . System::baseUrl() . "/search?tag=" . rawurlencode($hashtag) . "]" . $hashtag . "[/url]";
 270                 }
 271         }
 272
 273         return $tags;
 274 }
 275
 276 function add_page_info($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
 277         $data = query_page_info($url, $no_photos, $photo, $keywords, $keyword_blacklist);
 278
 279         $text = add_page_info_data($data);
 280
 281         return $text;
 282 }
 283
 284 function add_page_info_to_body($body, $texturl = false, $no_photos = false) {
 285
 286         logger('add_page_info_to_body: fetch page info for body ' . $body, LOGGER_DEBUG);
 287
 288         $URLSearchString = "^\[\]";
 289
 290         // Fix for Mastodon where the mentions are in a different format
 291         $body = preg_replace("/\[url\=([$URLSearchString]*)\]([#!@])(.*?)\[\/url\]/ism",
 292                 '$2[url=$1]$3[/url]', $body);
 293
 294         // Adding these spaces is a quick hack due to my problems with regular expressions :)
 295         preg_match("/[^!#@]\[url\]([$URLSearchString]*)\[\/url\]/ism", " " . $body, $matches);
 296
 297         if (!$matches) {
 298                 preg_match("/[^!#@]\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism", " " . $body, $matches);
 299         }
 300
 301         // Convert urls without bbcode elements
 302         if (!$matches && $texturl) {
 303                 preg_match("/([^\]\='".'"'."]|^)(https?\:\/\/[a-zA-Z0-9\:\/\-\?\&\;\.\=\_\~\#\%\$\!\+\,]+)/ism", " ".$body, $matches);
 304
 305                 // Yeah, a hack. I really hate regular expressions :)
 306                 if ($matches) {
 307                         $matches[1] = $matches[2];
 308                 }
 309         }
 310
 311         if ($matches) {
 312                 $footer = add_page_info($matches[1], $no_photos);
 313         }
 314
 315         // Remove the link from the body if the link is attached at the end of the post
 316         if (isset($footer) && (trim($footer) != "") && (strpos($footer, $matches[1]))) {
 317                 $removedlink = trim(str_replace($matches[1], "", $body));
 318                 if (($removedlink == "") || strstr($body, $removedlink)) {
 319                         $body = $removedlink;
 320                 }
 321
 322                 $url = str_replace(['/', '.'], ['\/', '\.'], $matches[1]);
 323                 $removedlink = preg_replace("/\[url\=" . $url . "\](.*?)\[\/url\]/ism", '', $body);
 324                 if (($removedlink == "") || strstr($body, $removedlink)) {
 325                         $body = $removedlink;
 326                 }
 327         }
 328
 329         // Add the page information to the bottom
 330         if (isset($footer) && (trim($footer) != "")) {
 331                 $body .= $footer;
 332         }
 333
 334         return $body;
 335 }
 336
 337 /**
 338  * Adds a "lang" specification in a "postopts" element of given $arr,
 339  * if possible and not already present.
 340  * Expects "body" element to exist in $arr.
 341  *
 342  * @todo Add a parameter to request forcing override
 343  */
 344 function item_add_language_opt(&$arr) {
 345
 346         if (version_compare(PHP_VERSION, '5.3.0', '<')) {
 347                  // LanguageDetect.php not available ?
 348                 return;
 349         }
 350
 351         if (x($arr, 'postopts') ) {
 352                 if (strstr($arr['postopts'], 'lang=') ) {
 353                         // do not override
 354                         /// @TODO Add parameter to request overriding
 355                         return;
 356                 }
 357                 $postopts = $arr['postopts'];
 358         } else {
 359                 $postopts = "";
 360         }
 361
 362         $naked_body = preg_replace('/\[(.+?)\]/','', $arr['body']);
 363         $l = new Text_LanguageDetect();
 364         $lng = $l->detect($naked_body, 3);
 365
 366         if (sizeof($lng) > 0) {
 367                 if ($postopts != "") $postopts .= '&'; // arbitrary separator, to be reviewed
 368                 $postopts .= 'lang=';
 369                 $sep = "";
 370                 foreach ($lng as $language => $score) {
 371                         $postopts .= $sep . $language . ";" . $score;
 372                         $sep = ':';
 373                 }
 374                 $arr['postopts'] = $postopts;
 375         }
 376 }
 377
 378 /**
 379  * @brief Creates an unique guid out of a given uri
 380  *
 381  * @param string $uri uri of an item entry
 382  * @param string $host (Optional) hostname for the GUID prefix
 383  * @return string unique guid
 384  */
 385 function uri_to_guid($uri, $host = "") {
 386
 387         // Our regular guid routine is using this kind of prefix as well
 388         // We have to avoid that different routines could accidentally create the same value
 389         $parsed = parse_url($uri);
 390
 391         // When the hostname isn't given, we take it from the uri
 392         if ($host == "") {
 393                 // Is it in the format data@host.tld?
 394                 if ((count($parsed) == 1) && strstr($uri, '@')) {
 395                         $mailparts = explode('@', $uri);
 396                         $host = array_pop($mailparts);
 397                 } else {
 398                         $host = $parsed["host"];
 399                 }
 400         }
 401
 402         // We use a hash of the hostname as prefix for the guid
 403         $guid_prefix = hash("crc32", $host);
 404
 405         // Remove the scheme to make sure that "https" and "http" doesn't make a difference
 406         unset($parsed["scheme"]);
 407
 408         // Glue it together to be able to make a hash from it
 409         $host_id = implode("/", $parsed);
 410
 411         // We could use any hash algorithm since it isn't a security issue
 412         $host_hash = hash("ripemd128", $host_id);
 413
 414         return $guid_prefix.$host_hash;
 415 }
 416
 417 /**
 418  * @brief Store the conversation data
 419  *
 420  * @param array $arr Item array with conversation data
 421  * @return array Item array with removed conversation data
 422  */
 423 function store_conversation($arr) {
 424         if (in_array(defaults($arr, 'network', NETWORK_PHANTOM), [NETWORK_DFRN, NETWORK_DIASPORA, NETWORK_OSTATUS]) && !empty($arr['uri'])) {
 425                 $conversation = ['item-uri' => $arr['uri'], 'received' => DBM::date()];
 426
 427                 if (isset($arr['parent-uri']) && ($arr['parent-uri'] != $arr['uri'])) {
 428                         $conversation['reply-to-uri'] = $arr['parent-uri'];
 429                 }
 430                 if (isset($arr['thr-parent']) && ($arr['thr-parent'] != $arr['uri'])) {
 431                         $conversation['reply-to-uri'] = $arr['thr-parent'];
 432                 }
 433
 434                 if (isset($arr['conversation-uri'])) {
 435                         $conversation['conversation-uri'] = $arr['conversation-uri'];
 436                 }
 437
 438                 if (isset($arr['conversation-href'])) {
 439                         $conversation['conversation-href'] = $arr['conversation-href'];
 440                 }
 441
 442                 if (isset($arr['protocol'])) {
 443                         $conversation['protocol'] = $arr['protocol'];
 444                 }
 445
 446                 if (isset($arr['source'])) {
 447                         $conversation['source'] = $arr['source'];
 448                 }
 449
 450                 $old_conv = dba::fetch_first("SELECT `item-uri`, `reply-to-uri`, `conversation-uri`, `conversation-href`, `protocol`, `source`
 451                                 FROM `conversation` WHERE `item-uri` = ?", $conversation['item-uri']);
 452                 if (DBM::is_result($old_conv)) {
 453                         // Don't update when only the source has changed.
 454                         // Only do this when there had been no source before.
 455                         if ($old_conv['source'] != '') {
 456                                 unset($old_conv['source']);
 457                         }
 458                         // Update structure data all the time but the source only when its from a better protocol.
 459                         if (($old_conv['protocol'] < $conversation['protocol']) && ($old_conv['protocol'] != 0)) {
 460                                 unset($conversation['protocol']);
 461                                 unset($conversation['source']);
 462                         }
 463                         if (!dba::update('conversation', $conversation, ['item-uri' => $conversation['item-uri']], $old_conv)) {
 464                                 logger('Conversation: update for '.$conversation['item-uri'].' from '.$conv['protocol'].' to '.$conversation['protocol'].' failed', LOGGER_DEBUG);
 465                         }
 466                 } else {
 467                         if (!dba::insert('conversation', $conversation, true)) {
 468                                 logger('Conversation: insert for '.$conversation['item-uri'].' (protocol '.$conversation['protocol'].') failed', LOGGER_DEBUG);
 469                         }
 470                 }
 471         }
 472
 473         unset($arr['conversation-uri']);
 474         unset($arr['conversation-href']);
 475         unset($arr['protocol']);
 476         unset($arr['source']);
 477
 478         return $arr;
 479 }
 480
 481 /// @TODO add type-hint array
 482 function item_store($arr, $force_parent = false, $notify = false, $dontcache = false)
 483 {
 484         $a = get_app();
 485
 486         // If it is a posting where users should get notifications, then define it as wall posting
 487         if ($notify) {
 488                 $arr['wall'] = 1;
 489                 $arr['type'] = 'wall';
 490                 $arr['origin'] = 1;
 491                 $arr['network'] = NETWORK_DFRN;
 492                 $arr['protocol'] = PROTOCOL_DFRN;
 493
 494                 // We have to avoid duplicates. So we create the GUID in form of a hash of the plink or uri.
 495                 // In difference to the call to "uri_to_guid" several lines below we add the hash of our own host.
 496                 // This is done because our host is the original creator of the post.
 497                 if (!isset($arr['guid'])) {
 498                         if (isset($arr['plink'])) {
 499                                 $arr['guid'] = uri_to_guid($arr['plink'], $a->get_hostname());
 500                         } elseif (isset($arr['uri'])) {
 501                                 $arr['guid'] = uri_to_guid($arr['uri'], $a->get_hostname());
 502                         }
 503                 }
 504         } else {
 505                 $arr['network'] = trim(defaults($arr, 'network', NETWORK_PHANTOM));
 506         }
 507
 508         if ($notify) {
 509                 $guid_prefix = "";
 510         } elseif ((trim($arr['guid']) == "") && (trim($arr['plink']) != "")) {
 511                 $arr['guid'] = uri_to_guid($arr['plink']);
 512         } elseif ((trim($arr['guid']) == "") && (trim($arr['uri']) != "")) {
 513                 $arr['guid'] = uri_to_guid($arr['uri']);
 514         } else {
 515                 $parsed = parse_url($arr["author-link"]);
 516                 $guid_prefix = hash("crc32", $parsed["host"]);
 517         }
 518
 519         $arr['guid']          = ((x($arr, 'guid'))          ? notags(trim($arr['guid']))          : get_guid(32, $guid_prefix));
 520         $arr['uri']           = ((x($arr, 'uri'))           ? notags(trim($arr['uri']))           : item_new_uri($a->get_hostname(), $uid, $arr['guid']));
 521
 522         // Store conversation data
 523         $arr = store_conversation($arr);
 524
 525         /*
 526          * If a Diaspora signature structure was passed in, pull it out of the
 527          * item array and set it aside for later storage.
 528          */
 529
 530         $dsprsig = null;
 531         if (x($arr, 'dsprsig')) {
 532                 $encoded_signature = $arr['dsprsig'];
 533                 $dsprsig = json_decode(base64_decode($arr['dsprsig']));
 534                 unset($arr['dsprsig']);
 535         }
 536
 537         // Converting the plink
 538         /// @todo Check if this is really still needed
 539         if ($arr['network'] == NETWORK_OSTATUS) {
 540                 if (isset($arr['plink'])) {
 541                         $arr['plink'] = OStatus::convertHref($arr['plink']);
 542                 } elseif (isset($arr['uri'])) {
 543                         $arr['plink'] = OStatus::convertHref($arr['uri']);
 544                 }
 545         }
 546
 547         if (x($arr, 'gravity')) {
 548                 $arr['gravity'] = intval($arr['gravity']);
 549         } elseif ($arr['parent-uri'] === $arr['uri']) {
 550                 $arr['gravity'] = 0;
 551         } elseif (activity_match($arr['verb'],ACTIVITY_POST)) {
 552                 $arr['gravity'] = 6;
 553         } else {
 554                 $arr['gravity'] = 6;   // extensible catchall
 555         }
 556
 557         if (! x($arr, 'type')) {
 558                 $arr['type']      = 'remote';
 559         }
 560
 561         $uid = intval($arr['uid']);
 562
 563         // check for create date and expire time
 564         $expire_interval = Config::get('system', 'dbclean-expire-days', 0);
 565
 566         $user = dba::selectFirst('user', ['expire'], ['uid' => $uid]);
 567         if (DBM::is_result($user) && ($user['expire'] > 0) && (($user['expire'] < $expire_interval) || ($expire_interval == 0))) {
 568                 $expire_interval = $user['expire'];
 569         }
 570
 571         if (($expire_interval > 0) && !empty($arr['created'])) {
 572                 $expire_date = time() - ($expire_interval * 86400);
 573                 $created_date = strtotime($arr['created']);
 574                 if ($created_date < $expire_date) {
 575                         logger('item-store: item created ('.date('c', $created_date).') before expiration time ('.date('c', $expire_date).'). ignored. ' . print_r($arr,true), LOGGER_DEBUG);
 576                         return 0;
 577                 }
 578         }
 579
 580         /*
 581          * Do we already have this item?
 582          * We have to check several networks since Friendica posts could be repeated
 583          * via OStatus (maybe Diasporsa as well)
 584          */
 585         if (in_array($arr['network'], [NETWORK_DIASPORA, NETWORK_DFRN, NETWORK_OSTATUS, ""])) {
 586                 $r = q("SELECT `id`, `network` FROM `item` WHERE `uri` = '%s' AND `uid` = %d AND `network` IN ('%s', '%s', '%s')  LIMIT 1",
 587                                 dbesc(trim($arr['uri'])),
 588                                 intval($uid),
 589                                 dbesc(NETWORK_DIASPORA),
 590                                 dbesc(NETWORK_DFRN),
 591                                 dbesc(NETWORK_OSTATUS)
 592                         );
 593                 if (DBM::is_result($r)) {
 594                         // We only log the entries with a different user id than 0. Otherwise we would have too many false positives
 595                         if ($uid != 0) {
 596                                 logger("Item with uri ".$arr['uri']." already existed for user ".$uid." with id ".$r[0]["id"]." target network ".$r[0]["network"]." - new network: ".$arr['network']);
 597                         }
 598
 599                         return $r[0]["id"];
 600                 }
 601         }
 602
 603         /// @TODO old-lost code?
 604         // Shouldn't happen but we want to make absolutely sure it doesn't leak from a plugin.
 605         // Deactivated, since the bbcode parser can handle with it - and it destroys posts with some smileys that contain "<"
 606         //if ((strpos($arr['body'],'<') !== false) || (strpos($arr['body'],'>') !== false))
 607         //      $arr['body'] = strip_tags($arr['body']);
 608
 609         item_add_language_opt($arr);
 610
 611         $arr['wall']          = ((x($arr, 'wall'))          ? intval($arr['wall'])                : 0);
 612         $arr['extid']         = ((x($arr, 'extid'))         ? notags(trim($arr['extid']))         : '');
 613         $arr['author-name']   = ((x($arr, 'author-name'))   ? trim($arr['author-name'])   : '');
 614         $arr['author-link']   = ((x($arr, 'author-link'))   ? notags(trim($arr['author-link']))   : '');
 615         $arr['author-avatar'] = ((x($arr, 'author-avatar')) ? notags(trim($arr['author-avatar'])) : '');
 616         $arr['owner-name']    = ((x($arr, 'owner-name'))    ? trim($arr['owner-name'])    : '');
 617         $arr['owner-link']    = ((x($arr, 'owner-link'))    ? notags(trim($arr['owner-link']))    : '');
 618         $arr['owner-avatar']  = ((x($arr, 'owner-avatar'))  ? notags(trim($arr['owner-avatar']))  : '');
 619         $arr['received']      = ((x($arr, 'received') !== false) ? datetime_convert('UTC','UTC', $arr['received']) : datetime_convert());
 620         $arr['created']       = ((x($arr, 'created') !== false) ? datetime_convert('UTC','UTC', $arr['created']) : $arr['received']);
 621         $arr['edited']        = ((x($arr, 'edited') !== false) ? datetime_convert('UTC','UTC', $arr['edited']) : $arr['created']);
 622         $arr['changed']       = ((x($arr, 'changed') !== false) ? datetime_convert('UTC','UTC', $arr['changed']) : $arr['created']);
 623         $arr['commented']     = ((x($arr, 'commented') !== false) ? datetime_convert('UTC','UTC', $arr['commented']) : $arr['created']);
 624         $arr['title']         = ((x($arr, 'title'))         ? trim($arr['title'])         : '');
 625         $arr['location']      = ((x($arr, 'location'))      ? trim($arr['location'])      : '');
 626         $arr['coord']         = ((x($arr, 'coord'))         ? notags(trim($arr['coord']))         : '');
 627         $arr['visible']       = ((x($arr, 'visible') !== false) ? intval($arr['visible'])         : 1 );
 628         $arr['deleted']       = 0;
 629         $arr['parent-uri']    = ((x($arr, 'parent-uri'))    ? notags(trim($arr['parent-uri']))    : $arr['uri']);
 630         $arr['verb']          = ((x($arr, 'verb'))          ? notags(trim($arr['verb']))          : '');
 631         $arr['object-type']   = ((x($arr, 'object-type'))   ? notags(trim($arr['object-type']))   : '');
 632         $arr['object']        = ((x($arr, 'object'))        ? trim($arr['object'])                : '');
 633         $arr['target-type']   = ((x($arr, 'target-type'))   ? notags(trim($arr['target-type']))   : '');
 634         $arr['target']        = ((x($arr, 'target'))        ? trim($arr['target'])                : '');
 635         $arr['plink']         = ((x($arr, 'plink'))         ? notags(trim($arr['plink']))         : '');
 636         $arr['allow_cid']     = ((x($arr, 'allow_cid'))     ? trim($arr['allow_cid'])             : '');
 637         $arr['allow_gid']     = ((x($arr, 'allow_gid'))     ? trim($arr['allow_gid'])             : '');
 638         $arr['deny_cid']      = ((x($arr, 'deny_cid'))      ? trim($arr['deny_cid'])              : '');
 639         $arr['deny_gid']      = ((x($arr, 'deny_gid'))      ? trim($arr['deny_gid'])              : '');
 640         $arr['private']       = ((x($arr, 'private'))       ? intval($arr['private'])             : 0 );
 641         $arr['bookmark']      = ((x($arr, 'bookmark'))      ? intval($arr['bookmark'])            : 0 );
 642         $arr['body']          = ((x($arr, 'body'))          ? trim($arr['body'])                  : '');
 643         $arr['tag']           = ((x($arr, 'tag'))           ? notags(trim($arr['tag']))           : '');
 644         $arr['attach']        = ((x($arr, 'attach'))        ? notags(trim($arr['attach']))        : '');
 645         $arr['app']           = ((x($arr, 'app'))           ? notags(trim($arr['app']))           : '');
 646         $arr['origin']        = ((x($arr, 'origin'))        ? intval($arr['origin'])              : 0 );
 647         $arr['postopts']      = ((x($arr, 'postopts'))      ? trim($arr['postopts'])              : '');
 648         $arr['resource-id']   = ((x($arr, 'resource-id'))   ? trim($arr['resource-id'])           : '');
 649         $arr['event-id']      = ((x($arr, 'event-id'))      ? intval($arr['event-id'])            : 0 );
 650         $arr['inform']        = ((x($arr, 'inform'))        ? trim($arr['inform'])                : '');
 651         $arr['file']          = ((x($arr, 'file'))          ? trim($arr['file'])                  : '');
 652
 653         // When there is no content then we don't post it
 654         if ($arr['body'].$arr['title'] == '') {
 655                 return 0;
 656         }
 657
 658         // Items cannot be stored before they happen ...
 659         if ($arr['created'] > datetime_convert()) {
 660                 $arr['created'] = datetime_convert();
 661         }
 662
 663         // We haven't invented time travel by now.
 664         if ($arr['edited'] > datetime_convert()) {
 665                 $arr['edited'] = datetime_convert();
 666         }
 667
 668         if (($arr['author-link'] == "") && ($arr['owner-link'] == "")) {
 669                 logger("Both author-link and owner-link are empty. Called by: " . System::callstack(), LOGGER_DEBUG);
 670         }
 671
 672         if ($arr['plink'] == "") {
 673                 $arr['plink'] = System::baseUrl() . '/display/' . urlencode($arr['guid']);
 674         }
 675
 676         if ($arr['network'] == NETWORK_PHANTOM) {
 677                 $r = q("SELECT `network` FROM `contact` WHERE `network` IN ('%s', '%s', '%s') AND `nurl` = '%s' AND `uid` = %d LIMIT 1",
 678                         dbesc(NETWORK_DFRN), dbesc(NETWORK_DIASPORA), dbesc(NETWORK_OSTATUS),
 679                         dbesc(normalise_link($arr['author-link'])),
 680                         intval($arr['uid'])
 681                 );
 682
 683                 if (!DBM::is_result($r)) {
 684                         $r = q("SELECT `network` FROM `gcontact` WHERE `network` IN ('%s', '%s', '%s') AND `nurl` = '%s' LIMIT 1",
 685                                 dbesc(NETWORK_DFRN), dbesc(NETWORK_DIASPORA), dbesc(NETWORK_OSTATUS),
 686                                 dbesc(normalise_link($arr['author-link']))
 687                         );
 688                 }
 689
 690                 if (!DBM::is_result($r)) {
 691                         $r = q("SELECT `network` FROM `contact` WHERE `id` = %d AND `uid` = %d LIMIT 1",
 692                                 intval($arr['contact-id']),
 693                                 intval($arr['uid'])
 694                         );
 695                 }
 696
 697                 if (DBM::is_result($r)) {
 698                         $arr['network'] = $r[0]["network"];
 699                 }
 700
 701                 // Fallback to friendica (why is it empty in some cases?)
 702                 if ($arr['network'] == "") {
 703                         $arr['network'] = NETWORK_DFRN;
 704                 }
 705
 706                 logger("item_store: Set network to " . $arr["network"] . " for " . $arr["uri"], LOGGER_DEBUG);
 707         }
 708
 709         // The contact-id should be set before "item_store" was called - but there seems to be some issues
 710         if ($arr["contact-id"] == 0) {
 711                 /*
 712                  * First we are looking for a suitable contact that matches with the author of the post
 713                  * This is done only for comments (See below explanation at "gcontact-id")
 714                  */
 715                 if ($arr['parent-uri'] != $arr['uri']) {
 716                         $arr["contact-id"] = Contact::getIdForURL($arr['author-link'], $uid);
 717                 }
 718
 719                 // If not present then maybe the owner was found
 720                 if ($arr["contact-id"] == 0) {
 721                         $arr["contact-id"] = Contact::getIdForURL($arr['owner-link'], $uid);
 722                 }
 723
 724                 // Still missing? Then use the "self" contact of the current user
 725                 if ($arr["contact-id"] == 0) {
 726                         $r = q("SELECT `id` FROM `contact` WHERE `self` AND `uid` = %d", intval($uid));
 727
 728                         if (DBM::is_result($r)) {
 729                                 $arr["contact-id"] = $r[0]["id"];
 730                         }
 731                 }
 732
 733                 logger("Contact-id was missing for post ".$arr["guid"]." from user id ".$uid." - now set to ".$arr["contact-id"], LOGGER_DEBUG);
 734         }
 735
 736         if (!x($arr, "gcontact-id")) {
 737                 /*
 738                  * The gcontact should mostly behave like the contact. But is is supposed to be global for the system.
 739                  * This means that wall posts, repeated posts, etc. should have the gcontact id of the owner.
 740                  * On comments the author is the better choice.
 741                  */
 742                 if ($arr['parent-uri'] === $arr['uri']) {
 743                         $arr["gcontact-id"] = GContact::getId(["url" => $arr['owner-link'], "network" => $arr['network'],
 744                                                                  "photo" => $arr['owner-avatar'], "name" => $arr['owner-name']]);
 745                 } else {
 746                         $arr["gcontact-id"] = GContact::getId(["url" => $arr['author-link'], "network" => $arr['network'],
 747                                                                  "photo" => $arr['author-avatar'], "name" => $arr['author-name']]);
 748                 }
 749         }
 750
 751         if ($arr["author-id"] == 0) {
 752                 $arr["author-id"] = Contact::getIdForURL($arr["author-link"], 0);
 753         }
 754
 755         if (Contact::isBlocked($arr["author-id"])) {
 756                 logger('Contact '.$arr["author-id"].' is blocked, item '.$arr["uri"].' will not be stored');
 757                 return 0;
 758         }
 759
 760         if ($arr["owner-id"] == 0) {
 761                 $arr["owner-id"] = Contact::getIdForURL($arr["owner-link"], 0);
 762         }
 763
 764         if (Contact::isBlocked($arr["owner-id"])) {
 765                 logger('Contact '.$arr["owner-id"].' is blocked, item '.$arr["uri"].' will not be stored');
 766                 return 0;
 767         }
 768
 769         if ($arr['guid'] != "") {
 770                 // Checking if there is already an item with the same guid
 771                 logger('checking for an item for user '.$arr['uid'].' on network '.$arr['network'].' with the guid '.$arr['guid'], LOGGER_DEBUG);
 772                 $r = q("SELECT `guid` FROM `item` WHERE `guid` = '%s' AND `network` = '%s' AND `uid` = '%d' LIMIT 1",
 773                         dbesc($arr['guid']), dbesc($arr['network']), intval($arr['uid']));
 774
 775                 if (DBM::is_result($r)) {
 776                         logger('found item with guid '.$arr['guid'].' for user '.$arr['uid'].' on network '.$arr['network'], LOGGER_DEBUG);
 777                         return 0;
 778                 }
 779         }
 780
 781         // Check for hashtags in the body and repair or add hashtag links
 782         item_body_set_hashtags($arr);
 783
 784         $arr['thr-parent'] = $arr['parent-uri'];
 785
 786         if ($arr['parent-uri'] === $arr['uri']) {
 787                 $parent_id = 0;
 788                 $parent_deleted = 0;
 789                 $allow_cid = $arr['allow_cid'];
 790                 $allow_gid = $arr['allow_gid'];
 791                 $deny_cid  = $arr['deny_cid'];
 792                 $deny_gid  = $arr['deny_gid'];
 793                 $notify_type = 'wall-new';
 794         } else {
 795
 796                 // find the parent and snarf the item id and ACLs
 797                 // and anything else we need to inherit
 798
 799                 $r = q("SELECT * FROM `item` WHERE `uri` = '%s' AND `uid` = %d ORDER BY `id` ASC LIMIT 1",
 800                         dbesc($arr['parent-uri']),
 801                         intval($arr['uid'])
 802                 );
 803
 804                 if (DBM::is_result($r)) {
 805
 806                         // is the new message multi-level threaded?
 807                         // even though we don't support it now, preserve the info
 808                         // and re-attach to the conversation parent.
 809
 810                         if ($r[0]['uri'] != $r[0]['parent-uri']) {
 811                                 $arr['parent-uri'] = $r[0]['parent-uri'];
 812                                 $z = q("SELECT * FROM `item` WHERE `uri` = '%s' AND `parent-uri` = '%s' AND `uid` = %d
 813                                         ORDER BY `id` ASC LIMIT 1",
 814                                         dbesc($r[0]['parent-uri']),
 815                                         dbesc($r[0]['parent-uri']),
 816                                         intval($arr['uid'])
 817                                 );
 818
 819                                 if (DBM::is_result($z)) {
 820                                         $r = $z;
 821                                 }
 822                         }
 823
 824                         $parent_id      = $r[0]['id'];
 825                         $parent_deleted = $r[0]['deleted'];
 826                         $allow_cid      = $r[0]['allow_cid'];
 827                         $allow_gid      = $r[0]['allow_gid'];
 828                         $deny_cid       = $r[0]['deny_cid'];
 829                         $deny_gid       = $r[0]['deny_gid'];
 830                         $arr['wall']    = $r[0]['wall'];
 831                         $notify_type    = 'comment-new';
 832
 833                         /*
 834                          * If the parent is private, force privacy for the entire conversation
 835                          * This differs from the above settings as it subtly allows comments from
 836                          * email correspondents to be private even if the overall thread is not.
 837                          */
 838                         if ($r[0]['private']) {
 839                                 $arr['private'] = $r[0]['private'];
 840                         }
 841
 842                         /*
 843                          * Edge case. We host a public forum that was originally posted to privately.
 844                          * The original author commented, but as this is a comment, the permissions
 845                          * weren't fixed up so it will still show the comment as private unless we fix it here.
 846                          */
 847                         if ((intval($r[0]['forum_mode']) == 1) && $r[0]['private']) {
 848                                 $arr['private'] = 0;
 849                         }
 850
 851                         // If its a post from myself then tag the thread as "mention"
 852                         logger("item_store: Checking if parent ".$parent_id." has to be tagged as mention for user ".$arr['uid'], LOGGER_DEBUG);
 853                         $u = q("SELECT `nickname` FROM `user` WHERE `uid` = %d", intval($arr['uid']));
 854                         if (DBM::is_result($u)) {
 855                                 $self = normalise_link(System::baseUrl() . '/profile/' . $u[0]['nickname']);
 856                                 logger("item_store: 'myself' is ".$self." for parent ".$parent_id." checking against ".$arr['author-link']." and ".$arr['owner-link'], LOGGER_DEBUG);
 857                                 if ((normalise_link($arr['author-link']) == $self) || (normalise_link($arr['owner-link']) == $self)) {
 858                                         dba::update('thread', ['mention' => true], ['iid' => $parent_id]);
 859                                         logger("item_store: tagged thread ".$parent_id." as mention for user ".$self, LOGGER_DEBUG);
 860                                 }
 861                         }
 862                 } else {
 863                         /*
 864                          * Allow one to see reply tweets from status.net even when
 865                          * we don't have or can't see the original post.
 866                          */
 867                         if ($force_parent) {
 868                                 logger('item_store: $force_parent=true, reply converted to top-level post.');
 869                                 $parent_id = 0;
 870                                 $arr['parent-uri'] = $arr['uri'];
 871                                 $arr['gravity'] = 0;
 872                         } else {
 873                                 logger('item_store: item parent '.$arr['parent-uri'].' for '.$arr['uid'].' was not found - ignoring item');
 874                                 return 0;
 875                         }
 876
 877                         $parent_deleted = 0;
 878                 }
 879         }
 880
 881         $r = q("SELECT `id` FROM `item` WHERE `uri` = '%s' AND `network` IN ('%s', '%s') AND `uid` = %d LIMIT 1",
 882                 dbesc($arr['uri']),
 883                 dbesc($arr['network']),
 884                 dbesc(NETWORK_DFRN),
 885                 intval($arr['uid'])
 886         );
 887         if (DBM::is_result($r)) {
 888                 logger('duplicated item with the same uri found. '.print_r($arr,true));
 889                 return 0;
 890         }
 891
 892         // On Friendica and Diaspora the GUID is unique
 893         if (in_array($arr['network'], [NETWORK_DFRN, NETWORK_DIASPORA])) {
 894                 $r = q("SELECT `id` FROM `item` WHERE `guid` = '%s' AND `uid` = %d LIMIT 1",
 895                         dbesc($arr['guid']),
 896                         intval($arr['uid'])
 897                 );
 898                 if (DBM::is_result($r)) {
 899                         logger('duplicated item with the same guid found. '.print_r($arr,true));
 900                         return 0;
 901                 }
 902         } else {
 903                 // Check for an existing post with the same content. There seems to be a problem with OStatus.
 904                 $r = q("SELECT `id` FROM `item` WHERE `body` = '%s' AND `network` = '%s' AND `created` = '%s' AND `contact-id` = %d AND `uid` = %d LIMIT 1",
 905                         dbesc($arr['body']),
 906                         dbesc($arr['network']),
 907                         dbesc($arr['created']),
 908                         intval($arr['contact-id']),
 909                         intval($arr['uid'])
 910                 );
 911                 if (DBM::is_result($r)) {
 912                         logger('duplicated item with the same body found. '.print_r($arr,true));
 913                         return 0;
 914                 }
 915         }
 916
 917         // Is this item available in the global items (with uid=0)?
 918         if ($arr["uid"] == 0) {
 919                 $arr["global"] = true;
 920
 921                 // Set the global flag on all items if this was a global item entry
 922                 dba::update('item', ['global' => true], ['uri' => $arr["uri"]]);
 923         } else {
 924                 $isglobal = q("SELECT `global` FROM `item` WHERE `uid` = 0 AND `uri` = '%s'", dbesc($arr["uri"]));
 925
 926                 $arr["global"] = (DBM::is_result($isglobal) && count($isglobal) > 0);
 927         }
 928
 929         // ACL settings
 930         if (strlen($allow_cid) || strlen($allow_gid) || strlen($deny_cid) || strlen($deny_gid)) {
 931                 $private = 1;
 932         } else {
 933                 $private = $arr['private'];
 934         }
 935
 936         $arr["allow_cid"] = $allow_cid;
 937         $arr["allow_gid"] = $allow_gid;
 938         $arr["deny_cid"] = $deny_cid;
 939         $arr["deny_gid"] = $deny_gid;
 940         $arr["private"] = $private;
 941         $arr["deleted"] = $parent_deleted;
 942
 943         // Fill the cache field
 944         put_item_in_cache($arr);
 945
 946         if ($notify) {
 947                 Addon::callHooks('post_local', $arr);
 948         } else {
 949                 Addon::callHooks('post_remote', $arr);
 950         }
 951
 952         // This array field is used to trigger some automatic reactions
 953         // It is mainly used in the "post_local" hook.
 954         unset($arr['api_source']);
 955
 956         if (x($arr, 'cancel')) {
 957                 logger('item_store: post cancelled by plugin.');
 958                 return 0;
 959         }
 960
 961         /*
 962          * Check for already added items.
 963          * There is a timing issue here that sometimes creates double postings.
 964          * An unique index would help - but the limitations of MySQL (maximum size of index values) prevent this.
 965          */
 966         if ($arr["uid"] == 0) {
 967                 $r = q("SELECT `id` FROM `item` WHERE `uri` = '%s' AND `uid` = 0 LIMIT 1", dbesc(trim($arr['uri'])));
 968                 if (DBM::is_result($r)) {
 969                         logger('Global item already stored. URI: '.$arr['uri'].' on network '.$arr['network'], LOGGER_DEBUG);
 970                         return 0;
 971                 }
 972         }
 973
 974         logger('item_store: ' . print_r($arr,true), LOGGER_DATA);
 975
 976         dba::transaction();
 977         $r = dba::insert('item', $arr);
 978
 979         // When the item was successfully stored we fetch the ID of the item.
 980         if (DBM::is_result($r)) {
 981                 $current_post = dba::lastInsertId();
 982         } else {
 983                 // This can happen - for example - if there are locking timeouts.
 984                 dba::rollback();
 985
 986                 // Store the data into a spool file so that we can try again later.
 987
 988                 // At first we restore the Diaspora signature that we removed above.
 989                 if (isset($encoded_signature)) {
 990                         $arr['dsprsig'] = $encoded_signature;
 991                 }
 992
 993                 // Now we store the data in the spool directory
 994                 // We use "microtime" to keep the arrival order and "mt_rand" to avoid duplicates
 995                 $file = 'item-'.round(microtime(true) * 10000).'-'.mt_rand().'.msg';
 996
 997                 $spoolpath = get_spoolpath();
 998                 if ($spoolpath != "") {
 999                         $spool = $spoolpath.'/'.$file;
1000                         file_put_contents($spool, json_encode($arr));
1001                         logger("Item wasn't stored - Item was spooled into file ".$file, LOGGER_DEBUG);
1002                 }
1003                 return 0;
1004         }
1005
1006         if ($current_post == 0) {
1007                 // This is one of these error messages that never should occur.
1008                 logger("couldn't find created item - we better quit now.");
1009                 dba::rollback();
1010                 return 0;
1011         }
1012
1013         // How much entries have we created?
1014         // We wouldn't need this query when we could use an unique index - but MySQL has length problems with them.
1015         $r = q("SELECT COUNT(*) AS `entries` FROM `item` WHERE `uri` = '%s' AND `uid` = %d AND `network` = '%s'",
1016                 dbesc($arr['uri']),
1017                 intval($arr['uid']),
1018                 dbesc($arr['network'])
1019         );
1020
1021         if (!DBM::is_result($r)) {
1022                 // This shouldn't happen, since COUNT always works when the database connection is there.
1023                 logger("We couldn't count the stored entries. Very strange ...");
1024                 dba::rollback();
1025                 return 0;
1026         }
1027
1028         if ($r[0]["entries"] > 1) {
1029                 // There are duplicates. We delete our just created entry.
1030                 logger('Duplicated post occurred. uri = ' . $arr['uri'] . ' uid = ' . $arr['uid']);
1031
1032                 // Yes, we could do a rollback here - but we are having many users with MyISAM.
1033                 dba::delete('item', ['id' => $current_post]);
1034                 dba::commit();
1035                 return 0;
1036         } elseif ($r[0]["entries"] == 0) {
1037                 // This really should never happen since we quit earlier if there were problems.
1038                 logger("Something is terribly wrong. We haven't found our created entry.");
1039                 dba::rollback();
1040                 return 0;
1041         }
1042
1043         logger('item_store: created item '.$current_post);
1044         item_set_last_item($arr);
1045
1046         if (!$parent_id || ($arr['parent-uri'] === $arr['uri'])) {
1047                 $parent_id = $current_post;
1048         }
1049
1050         // Set parent id
1051         dba::update('item', ['parent' => $parent_id], ['id' => $current_post]);
1052
1053         $arr['id'] = $current_post;
1054         $arr['parent'] = $parent_id;
1055
1056         // update the commented timestamp on the parent
1057         // Only update "commented" if it is really a comment
1058         if (($arr['verb'] == ACTIVITY_POST) || !Config::get("system", "like_no_comment")) {
1059                 dba::update('item', ['commented' => datetime_convert(), 'changed' => datetime_convert()], ['id' => $parent_id]);
1060         } else {
1061                 dba::update('item', ['changed' => datetime_convert()], ['id' => $parent_id]);
1062         }
1063
1064         if ($dsprsig) {
1065
1066                 /*
1067                  * Friendica servers lower than 3.4.3-2 had double encoded the signature ...
1068                  * We can check for this condition when we decode and encode the stuff again.
1069                  */
1070                 if (base64_encode(base64_decode(base64_decode($dsprsig->signature))) == base64_decode($dsprsig->signature)) {
1071                         $dsprsig->signature = base64_decode($dsprsig->signature);
1072                         logger("Repaired double encoded signature from handle ".$dsprsig->signer, LOGGER_DEBUG);
1073                 }
1074
1075                 dba::insert('sign', ['iid' => $current_post, 'signed_text' => $dsprsig->signed_text,
1076                                         'signature' => $dsprsig->signature, 'signer' => $dsprsig->signer]);
1077         }
1078
1079         $deleted = tag_deliver($arr['uid'], $current_post);
1080
1081         /*
1082          * current post can be deleted if is for a community page and no mention are
1083          * in it.
1084          */
1085         if (!$deleted && !$dontcache) {
1086
1087                 $r = q('SELECT * FROM `item` WHERE `id` = %d', intval($current_post));
1088                 if ((DBM::is_result($r)) && (count($r) == 1)) {
1089                         if ($notify) {
1090                                 Addon::callHooks('post_local_end', $r[0]);
1091                         } else {
1092                                 Addon::callHooks('post_remote_end', $r[0]);
1093                         }
1094                 } else {
1095                         logger('item_store: new item not found in DB, id ' . $current_post);
1096                 }
1097         }
1098
1099         if ($arr['parent-uri'] === $arr['uri']) {
1100                 add_thread($current_post);
1101         } else {
1102                 update_thread($parent_id);
1103         }
1104
1105         dba::commit();
1106
1107         /*
1108          * Due to deadlock issues with the "term" table we are doing these steps after the commit.
1109          * This is not perfect - but a workable solution until we found the reason for the problem.
1110          */
1111         create_tags_from_item($current_post);
1112         Term::createFromItem($current_post);
1113
1114         if ($arr['parent-uri'] === $arr['uri']) {
1115                 Item::addShadow($current_post);
1116         } else {
1117                 Item::addShadowPost($current_post);
1118         }
1119
1120         check_user_notification($current_post);
1121
1122         if ($notify) {
1123                 Worker::add(['priority' => PRIORITY_HIGH, 'dont_fork' => true], "Notifier", $notify_type, $current_post);
1124         }
1125
1126         return $current_post;
1127 }
1128
1129 /**
1130  * @brief Set "success_update" and "last-item" to the date of the last time we heard from this contact
1131  *
1132  * This can be used to filter for inactive contacts.
1133  * Only do this for public postings to avoid privacy problems, since poco data is public.
1134  * Don't set this value if it isn't from the owner (could be an author that we don't know)
1135  *
1136  * @param array $arr Contains the just posted item record
1137  */
1138 function item_set_last_item($arr) {
1139         // Unarchive the author
1140         $contact = dba::selectFirst('contact', [], ['id' => $arr["author-link"]]);
1141         if ($contact['term-date'] > NULL_DATE) {
1142                  Contact::unmarkForArchival($contact);
1143         }
1144
1145         // Unarchive the contact if it is a toplevel posting
1146         if ($arr["parent-uri"] === $arr["uri"]) {
1147                 $contact = dba::selectFirst('contact', [], ['id' => $arr["contact-id"]]);
1148                 if ($contact['term-date'] > NULL_DATE) {
1149                          Contact::unmarkForArchival($contact);
1150                 }
1151         }
1152
1153         $update = (!$arr['private'] && (($arr["author-link"] === $arr["owner-link"]) || ($arr["parent-uri"] === $arr["uri"])));
1154
1155         // Is it a forum? Then we don't care about the rules from above
1156         if (!$update && ($arr["network"] == NETWORK_DFRN) && ($arr["parent-uri"] === $arr["uri"])) {
1157                 $isforum = q("SELECT `forum` FROM `contact` WHERE `id` = %d AND `forum`",
1158                                 intval($arr['contact-id']));
1159                 if (DBM::is_result($isforum)) {
1160                         $update = true;
1161                 }
1162         }
1163
1164         if ($update) {
1165                 dba::update('contact', ['success_update' => $arr['received'], 'last-item' => $arr['received']],
1166                         ['id' => $arr['contact-id']]);
1167         }
1168         // Now do the same for the system wide contacts with uid=0
1169         if (!$arr['private']) {
1170                 dba::update('contact', ['success_update' => $arr['received'], 'last-item' => $arr['received']],
1171                         ['id' => $arr['owner-id']]);
1172
1173                 if ($arr['owner-id'] != $arr['author-id']) {
1174                         dba::update('contact', ['success_update' => $arr['received'], 'last-item' => $arr['received']],
1175                                 ['id' => $arr['author-id']]);
1176                 }
1177         }
1178 }
1179
1180 function item_body_set_hashtags(&$item) {
1181
1182         $tags = get_tags($item["body"]);
1183
1184         // No hashtags?
1185         if (!count($tags)) {
1186                 return false;
1187         }
1188
1189         // This sorting is important when there are hashtags that are part of other hashtags
1190         // Otherwise there could be problems with hashtags like #test and #test2
1191         rsort($tags);
1192
1193         $URLSearchString = "^\[\]";
1194
1195         // All hashtags should point to the home server if "local_tags" is activated
1196         if (Config::get('system', 'local_tags')) {
1197                 $item["body"] = preg_replace("/#\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1198                                 "#[url=".System::baseUrl()."/search?tag=$2]$2[/url]", $item["body"]);
1199
1200                 $item["tag"] = preg_replace("/#\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1201                                 "#[url=".System::baseUrl()."/search?tag=$2]$2[/url]", $item["tag"]);
1202         }
1203
1204         // mask hashtags inside of url, bookmarks and attachments to avoid urls in urls
1205         $item["body"] = preg_replace_callback("/\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1206                 function ($match) {
1207                         return ("[url=" . str_replace("#", "&num;", $match[1]) . "]" . str_replace("#", "&num;", $match[2]) . "[/url]");
1208                 }, $item["body"]);
1209
1210         $item["body"] = preg_replace_callback("/\[bookmark\=([$URLSearchString]*)\](.*?)\[\/bookmark\]/ism",
1211                 function ($match) {
1212                         return ("[bookmark=" . str_replace("#", "&num;", $match[1]) . "]" . str_replace("#", "&num;", $match[2]) . "[/bookmark]");
1213                 }, $item["body"]);
1214
1215         $item["body"] = preg_replace_callback("/\[attachment (.*)\](.*?)\[\/attachment\]/ism",
1216                 function ($match) {
1217                         return ("[attachment " . str_replace("#", "&num;", $match[1]) . "]" . $match[2] . "[/attachment]");
1218                 }, $item["body"]);
1219
1220         // Repair recursive urls
1221         $item["body"] = preg_replace("/&num;\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1222                         "&num;$2", $item["body"]);
1223
1224         foreach ($tags as $tag) {
1225                 if ((strpos($tag, '#') !== 0) || (strpos($tag, '[url='))) {
1226                         continue;
1227                 }
1228
1229                 $basetag = str_replace('_',' ',substr($tag,1));
1230
1231                 $newtag = '#[url=' . System::baseUrl() . '/search?tag=' . rawurlencode($basetag) . ']' . $basetag . '[/url]';
1232
1233                 $item["body"] = str_replace($tag, $newtag, $item["body"]);
1234
1235                 if (!stristr($item["tag"], "/search?tag=" . $basetag . "]" . $basetag . "[/url]")) {
1236                         if (strlen($item["tag"])) {
1237                                 $item["tag"] = ','.$item["tag"];
1238                         }
1239                         $item["tag"] = $newtag.$item["tag"];
1240                 }
1241         }
1242
1243         // Convert back the masked hashtags
1244         $item["body"] = str_replace("&num;", "#", $item["body"]);
1245 }
1246
1247 function get_item_guid($id) {
1248         $r = q("SELECT `guid` FROM `item` WHERE `id` = %d LIMIT 1", intval($id));
1249         if (DBM::is_result($r)) {
1250                 return $r[0]["guid"];
1251         } else {
1252                 /// @TODO This else-block can be elimited again
1253                 return "";
1254         }
1255 }
1256
1257 function get_item_id($guid, $uid = 0) {
1258
1259         $nick = "";
1260         $id = 0;
1261
1262         if ($uid == 0) {
1263                 $uid == local_user();
1264         }
1265
1266         // Does the given user have this item?
1267         if ($uid) {
1268                 $r = q("SELECT `item`.`id`, `user`.`nickname` FROM `item` INNER JOIN `user` ON `user`.`uid` = `item`.`uid`
1269                         WHERE `item`.`visible` = 1 AND `item`.`deleted` = 0 AND `item`.`moderated` = 0
1270                                 AND `item`.`guid` = '%s' AND `item`.`uid` = %d", dbesc($guid), intval($uid));
1271                 if (DBM::is_result($r)) {
1272                         $id = $r[0]["id"];
1273                         $nick = $r[0]["nickname"];
1274                 }
1275         }
1276
1277         // Or is it anywhere on the server?
1278         if ($nick == "") {
1279                 $r = q("SELECT `item`.`id`, `user`.`nickname` FROM `item` INNER JOIN `user` ON `user`.`uid` = `item`.`uid`
1280                         WHERE `item`.`visible` = 1 AND `item`.`deleted` = 0 AND `item`.`moderated` = 0
1281                                 AND `item`.`allow_cid` = ''  AND `item`.`allow_gid` = ''
1282                                 AND `item`.`deny_cid`  = '' AND `item`.`deny_gid`  = ''
1283                                 AND `item`.`private` = 0 AND `item`.`wall` = 1
1284                                 AND `item`.`guid` = '%s'", dbesc($guid));
1285                 if (DBM::is_result($r)) {
1286                         $id = $r[0]["id"];
1287                         $nick = $r[0]["nickname"];
1288                 }
1289         }
1290         return ["nick" => $nick, "id" => $id];
1291 }
1292
1293 // return - test
1294 function get_item_contact($item, $contacts) {
1295         if (! count($contacts) || (! is_array($item))) {
1296                 return false;
1297         }
1298         foreach ($contacts as $contact) {
1299                 if ($contact['id'] == $item['contact-id']) {
1300                         return $contact;
1301                 }
1302         }
1303         return false;
1304 }
1305
1306 /**
1307  * look for mention tags and setup a second delivery chain for forum/community posts if appropriate
1308  * @param int $uid
1309  * @param int $item_id
1310  * @return bool true if item was deleted, else false
1311  */
1312 function tag_deliver($uid, $item_id)
1313 {
1314         $mention = false;
1315
1316         $u = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1317                 intval($uid)
1318         );
1319         if (! DBM::is_result($u)) {
1320                 return;
1321         }
1322
1323         $community_page = (($u[0]['page-flags'] == PAGE_COMMUNITY) ? true : false);
1324         $prvgroup = (($u[0]['page-flags'] == PAGE_PRVGROUP) ? true : false);
1325
1326         $i = q("SELECT * FROM `item` WHERE `id` = %d AND `uid` = %d LIMIT 1",
1327                 intval($item_id),
1328                 intval($uid)
1329         );
1330         if (! DBM::is_result($i)) {
1331                 return;
1332         }
1333
1334         $item = $i[0];
1335
1336         $link = normalise_link(System::baseUrl() . '/profile/' . $u[0]['nickname']);
1337
1338         /*
1339          * Diaspora uses their own hardwired link URL in @-tags
1340          * instead of the one we supply with webfinger
1341          */
1342         $dlink = normalise_link(System::baseUrl() . '/u/' . $u[0]['nickname']);
1343
1344         $cnt = preg_match_all('/[\@\!]\[url\=(.*?)\](.*?)\[\/url\]/ism', $item['body'], $matches, PREG_SET_ORDER);
1345         if ($cnt) {
1346                 foreach ($matches as $mtch) {
1347                         if (link_compare($link, $mtch[1]) || link_compare($dlink, $mtch[1])) {
1348                                 $mention = true;
1349                                 logger('tag_deliver: mention found: ' . $mtch[2]);
1350                         }
1351                 }
1352         }
1353
1354         if (! $mention) {
1355                 if (($community_page || $prvgroup) &&
1356                           (!$item['wall']) && (!$item['origin']) && ($item['id'] == $item['parent'])) {
1357                         // mmh.. no mention.. community page or private group... no wall.. no origin.. top-post (not a comment)
1358                         // delete it!
1359                         logger("tag_deliver: no-mention top-level post to communuty or private group. delete.");
1360                         dba::delete('item', ['id' => $item_id]);
1361                         return true;
1362                 }
1363                 return;
1364         }
1365
1366         $arr = ['item' => $item, 'user' => $u[0], 'contact' => $r[0]];
1367
1368         Addon::callHooks('tagged', $arr);
1369
1370         if ((! $community_page) && (! $prvgroup)) {
1371                 return;
1372         }
1373
1374         /*
1375          * tgroup delivery - setup a second delivery chain
1376          * prevent delivery looping - only proceed
1377          * if the message originated elsewhere and is a top-level post
1378          */
1379         if (($item['wall']) || ($item['origin']) || ($item['id'] != $item['parent'])) {
1380                 return;
1381         }
1382
1383         // now change this copy of the post to a forum head message and deliver to all the tgroup members
1384         $c = q("SELECT `name`, `url`, `thumb` FROM `contact` WHERE `self` = 1 AND `uid` = %d LIMIT 1",
1385                 intval($u[0]['uid'])
1386         );
1387         if (! DBM::is_result($c)) {
1388                 return;
1389         }
1390
1391         // also reset all the privacy bits to the forum default permissions
1392
1393         $private = ($u[0]['allow_cid'] || $u[0]['allow_gid'] || $u[0]['deny_cid'] || $u[0]['deny_gid']) ? 1 : 0;
1394
1395         $forum_mode = (($prvgroup) ? 2 : 1);
1396
1397         q("UPDATE `item` SET `wall` = 1, `origin` = 1, `forum_mode` = %d, `owner-name` = '%s', `owner-link` = '%s', `owner-avatar` = '%s',
1398                 `private` = %d, `allow_cid` = '%s', `allow_gid` = '%s', `deny_cid` = '%s', `deny_gid` = '%s'  WHERE `id` = %d",
1399                 intval($forum_mode),
1400                 dbesc($c[0]['name']),
1401                 dbesc($c[0]['url']),
1402                 dbesc($c[0]['thumb']),
1403                 intval($private),
1404                 dbesc($u[0]['allow_cid']),
1405                 dbesc($u[0]['allow_gid']),
1406                 dbesc($u[0]['deny_cid']),
1407                 dbesc($u[0]['deny_gid']),
1408                 intval($item_id)
1409         );
1410         update_thread($item_id);
1411
1412         Worker::add(['priority' => PRIORITY_HIGH, 'dont_fork' => true], 'Notifier', 'tgroup', $item_id);
1413
1414 }
1415
1416
1417
1418 function tgroup_check($uid, $item) {
1419
1420         $mention = false;
1421
1422         // check that the message originated elsewhere and is a top-level post
1423
1424         if (($item['wall']) || ($item['origin']) || ($item['uri'] != $item['parent-uri'])) {
1425                 return false;
1426         }
1427
1428         /// @TODO Encapsulate this or find it encapsulated and replace all occurrances
1429         $u = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1430                 intval($uid)
1431         );
1432         if (! DBM::is_result($u)) {
1433                 return false;
1434         }
1435
1436         $community_page = (($u[0]['page-flags'] == PAGE_COMMUNITY) ? true : false);
1437         $prvgroup = (($u[0]['page-flags'] == PAGE_PRVGROUP) ? true : false);
1438
1439         $link = normalise_link(System::baseUrl() . '/profile/' . $u[0]['nickname']);
1440
1441         /*
1442          * Diaspora uses their own hardwired link URL in @-tags
1443          * instead of the one we supply with webfinger
1444          */
1445         $dlink = normalise_link(System::baseUrl() . '/u/' . $u[0]['nickname']);
1446
1447         $cnt = preg_match_all('/[\@\!]\[url\=(.*?)\](.*?)\[\/url\]/ism', $item['body'], $matches, PREG_SET_ORDER);
1448         if ($cnt) {
1449                 foreach ($matches as $mtch) {
1450                         if (link_compare($link, $mtch[1]) || link_compare($dlink, $mtch[1])) {
1451                                 $mention = true;
1452                                 logger('tgroup_check: mention found: ' . $mtch[2]);
1453                         }
1454                 }
1455         }
1456
1457         if (! $mention) {
1458                 return false;
1459         }
1460
1461         /// @TODO Combine both return statements into one
1462         return (($community_page) || ($prvgroup));
1463 }
1464
1465 /**
1466  * This function returns true if $update has an edited timestamp newer
1467  * than $existing, i.e. $update contains new data which should override
1468  * what's already there.  If there is no timestamp yet, the update is
1469  * assumed to be newer.  If the update has no timestamp, the existing
1470  * item is assumed to be up-to-date.  If the timestamps are equal it
1471  * assumes the update has been seen before and should be ignored.
1472  *
1473  * @todo fix type-hints (both array)
1474  */
1475 function edited_timestamp_is_newer($existing, $update) {
1476         if (!x($existing, 'edited') || !$existing['edited']) {
1477                 return true;
1478         }
1479         if (!x($update, 'edited') || !$update['edited']) {
1480                 return false;
1481         }
1482
1483         $existing_edited = datetime_convert('UTC', 'UTC', $existing['edited']);
1484         $update_edited = datetime_convert('UTC', 'UTC', $update['edited']);
1485         return (strcmp($existing_edited, $update_edited) < 0);
1486 }
1487
1488 /**
1489  *
1490  * consume_feed - process atom feed and update anything/everything we might need to update
1491  *
1492  * $xml = the (atom) feed to consume - RSS isn't as fully supported but may work for simple feeds.
1493  *
1494  * $importer = the contact_record (joined to user_record) of the local user who owns this relationship.
1495  *             It is this person's stuff that is going to be updated.
1496  * $contact =  the person who is sending us stuff. If not set, we MAY be processing a "follow" activity
1497  *             from an external network and MAY create an appropriate contact record. Otherwise, we MUST
1498  *             have a contact record.
1499  * $hub = should we find a hub declation in the feed, pass it back to our calling process, who might (or
1500  *        might not) try and subscribe to it.
1501  * $datedir sorts in reverse order
1502  * $pass - by default ($pass = 0) we cannot guarantee that a parent item has been
1503  *      imported prior to its children being seen in the stream unless we are certain
1504  *      of how the feed is arranged/ordered.
1505  * With $pass = 1, we only pull parent items out of the stream.
1506  * With $pass = 2, we only pull children (comments/likes).
1507  *
1508  * So running this twice, first with pass 1 and then with pass 2 will do the right
1509  * thing regardless of feed ordering. This won't be adequate in a fully-threaded
1510  * model where comments can have sub-threads. That would require some massive sorting
1511  * to get all the feed items into a mostly linear ordering, and might still require
1512  * recursion.
1513  *
1514  * @todo find proper type-hints
1515  */
1516 function consume_feed($xml, $importer, &$contact, &$hub, $datedir = 0, $pass = 0) {
1517         if ($contact['network'] === NETWORK_OSTATUS) {
1518                 if ($pass < 2) {
1519                         // Test - remove before flight
1520                         //$tempfile = tempnam(get_temppath(), "ostatus2");
1521                         //file_put_contents($tempfile, $xml);
1522                         logger("Consume OStatus messages ", LOGGER_DEBUG);
1523                         OStatus::import($xml, $importer, $contact, $hub);
1524                 }
1525                 return;
1526         }
1527
1528         if ($contact['network'] === NETWORK_FEED) {
1529                 if ($pass < 2) {
1530                         logger("Consume feeds", LOGGER_DEBUG);
1531                         Feed::import($xml, $importer, $contact, $hub);
1532                 }
1533                 return;
1534         }
1535
1536         if ($contact['network'] === NETWORK_DFRN) {
1537                 logger("Consume DFRN messages", LOGGER_DEBUG);
1538
1539                 $r = q("SELECT `contact`.*, `contact`.`uid` AS `importer_uid`,
1540                                         `contact`.`pubkey` AS `cpubkey`,
1541                                         `contact`.`prvkey` AS `cprvkey`,
1542                                         `contact`.`thumb` AS `thumb`,
1543                                         `contact`.`url` as `url`,
1544                                         `contact`.`name` as `senderName`,
1545                                         `user`.*
1546                         FROM `contact`
1547                         LEFT JOIN `user` ON `contact`.`uid` = `user`.`uid`
1548                         WHERE `contact`.`id` = %d AND `user`.`uid` = %d",
1549                         dbesc($contact["id"]), dbesc($importer["uid"])
1550                 );
1551                 if (DBM::is_result($r)) {
1552                         logger("Now import the DFRN feed");
1553                         DFRN::import($xml, $r[0], true);
1554                         return;
1555                 }
1556         }
1557 }
1558
1559 /// @TODO type-hint is array
1560 function item_is_remote_self($contact, &$datarray) {
1561         $a = get_app();
1562
1563         if (!$contact['remote_self']) {
1564                 return false;
1565         }
1566
1567         // Prevent the forwarding of posts that are forwarded
1568         if ($datarray["extid"] == NETWORK_DFRN) {
1569                 return false;
1570         }
1571
1572         // Prevent to forward already forwarded posts
1573         if ($datarray["app"] == $a->get_hostname()) {
1574                 return false;
1575         }
1576
1577         // Only forward posts
1578         if ($datarray["verb"] != ACTIVITY_POST) {
1579                 return false;
1580         }
1581
1582         if (($contact['network'] != NETWORK_FEED) && $datarray['private']) {
1583                 return false;
1584         }
1585
1586         $datarray2 = $datarray;
1587         logger('remote-self start - Contact '.$contact['url'].' - '.$contact['remote_self'].' Item '.print_r($datarray, true), LOGGER_DEBUG);
1588         if ($contact['remote_self'] == 2) {
1589                 $r = q("SELECT `id`,`url`,`name`,`thumb` FROM `contact` WHERE `uid` = %d AND `self`",
1590                         intval($contact['uid']));
1591                 if (DBM::is_result($r)) {
1592                         $datarray['contact-id'] = $r[0]["id"];
1593
1594                         $datarray['owner-name'] = $r[0]["name"];
1595                         $datarray['owner-link'] = $r[0]["url"];
1596                         $datarray['owner-avatar'] = $r[0]["thumb"];
1597
1598                         $datarray['author-name']   = $datarray['owner-name'];
1599                         $datarray['author-link']   = $datarray['owner-link'];
1600                         $datarray['author-avatar'] = $datarray['owner-avatar'];
1601
1602                         unset($datarray['created']);
1603                         unset($datarray['edited']);
1604                 }
1605
1606                 if ($contact['network'] != NETWORK_FEED) {
1607                         $datarray["guid"] = get_guid(32);
1608                         unset($datarray["plink"]);
1609                         $datarray["uri"] = item_new_uri($a->get_hostname(), $contact['uid'], $datarray["guid"]);
1610                         $datarray["parent-uri"] = $datarray["uri"];
1611                         $datarray["extid"] = $contact['network'];
1612                         $urlpart = parse_url($datarray2['author-link']);
1613                         $datarray["app"] = $urlpart["host"];
1614                 } else {
1615                         $datarray['private'] = 0;
1616                 }
1617         }
1618
1619         if ($contact['network'] != NETWORK_FEED) {
1620                 // Store the original post
1621                 $r = item_store($datarray2, false, false);
1622                 logger('remote-self post original item - Contact '.$contact['url'].' return '.$r.' Item '.print_r($datarray2, true), LOGGER_DEBUG);
1623         } else {
1624                 $datarray["app"] = "Feed";
1625         }
1626
1627         // Trigger automatic reactions for addons
1628         $datarray['api_source'] = true;
1629
1630         // We have to tell the hooks who we are - this really should be improved
1631         $_SESSION["authenticated"] = true;
1632         $_SESSION["uid"] = $contact['uid'];
1633
1634         return true;
1635 }
1636
1637 /// @TODO find proper type-hints
1638 function new_follower($importer, $contact, $datarray, $item, $sharing = false) {
1639         $url = notags(trim($datarray['author-link']));
1640         $name = notags(trim($datarray['author-name']));
1641         $photo = notags(trim($datarray['author-avatar']));
1642
1643         if (is_object($item)) {
1644                 $rawtag = $item->get_item_tags(NAMESPACE_ACTIVITY,'actor');
1645                 if ($rawtag && $rawtag[0]['child'][NAMESPACE_POCO]['preferredUsername'][0]['data']) {
1646                         $nick = $rawtag[0]['child'][NAMESPACE_POCO]['preferredUsername'][0]['data'];
1647                 }
1648         } else {
1649                 $nick = $item;
1650         }
1651
1652         if (is_array($contact)) {
1653                 if (($contact['network'] == NETWORK_OSTATUS && $contact['rel'] == CONTACT_IS_SHARING)
1654                         || ($sharing && $contact['rel'] == CONTACT_IS_FOLLOWER)) {
1655                         dba::update('contact', ['rel' => CONTACT_IS_FRIEND, 'writable' => true],
1656                                         ['id' => $contact['id'], 'uid' => $importer['uid']]);
1657                 }
1658                 // send email notification to owner?
1659         } else {
1660                 // create contact record
1661                 q("INSERT INTO `contact` (`uid`, `created`, `url`, `nurl`, `name`, `nick`, `photo`, `network`, `rel`,
1662                         `blocked`, `readonly`, `pending`, `writable`)
1663                         VALUES (%d, '%s', '%s', '%s', '%s', '%s', '%s', '%s', %d, 0, 0, 1, 1)",
1664                         intval($importer['uid']),
1665                         dbesc(datetime_convert()),
1666                         dbesc($url),
1667                         dbesc(normalise_link($url)),
1668                         dbesc($name),
1669                         dbesc($nick),
1670                         dbesc($photo),
1671                         dbesc(NETWORK_OSTATUS),
1672                         intval(CONTACT_IS_FOLLOWER)
1673                 );
1674
1675                 $r = q("SELECT `id`, `network` FROM `contact` WHERE `uid` = %d AND `url` = '%s' AND `pending` = 1 LIMIT 1",
1676                                 intval($importer['uid']),
1677                                 dbesc($url)
1678                 );
1679                 if (DBM::is_result($r)) {
1680                         $contact_record = $r[0];
1681                         Contact::updateAvatar($photo, $importer["uid"], $contact_record["id"], true);
1682                 }
1683
1684                 /// @TODO Encapsulate this into a function/method
1685                 $r = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1686                         intval($importer['uid'])
1687                 );
1688                 if (DBM::is_result($r) && !in_array($r[0]['page-flags'], [PAGE_SOAPBOX, PAGE_FREELOVE, PAGE_COMMUNITY])) {
1689                         // create notification
1690                         $hash = random_string();
1691
1692                         if (is_array($contact_record)) {
1693                                 dba::insert('intro', ['uid' => $importer['uid'], 'contact-id' => $contact_record['id'],
1694                                                         'blocked' => false, 'knowyou' => false,
1695                                                         'hash' => $hash, 'datetime' => datetime_convert()]);
1696                         }
1697
1698                         Group::addMember(User::getDefaultGroup($importer['uid'], $contact_record["network"]), $contact_record['id']);
1699
1700                         if (($r[0]['notify-flags'] & NOTIFY_INTRO) &&
1701                                 in_array($r[0]['page-flags'], [PAGE_NORMAL])) {
1702
1703                                 notification([
1704                                         'type'         => NOTIFY_INTRO,
1705                                         'notify_flags' => $r[0]['notify-flags'],
1706                                         'language'     => $r[0]['language'],
1707                                         'to_name'      => $r[0]['username'],
1708                                         'to_email'     => $r[0]['email'],
1709                                         'uid'          => $r[0]['uid'],
1710                                         'link'             => System::baseUrl() . '/notifications/intro',
1711                                         'source_name'  => ((strlen(stripslashes($contact_record['name']))) ? stripslashes($contact_record['name']) : t('[Name Withheld]')),
1712                                         'source_link'  => $contact_record['url'],
1713                                         'source_photo' => $contact_record['photo'],
1714                                         'verb'         => ($sharing ? ACTIVITY_FRIEND : ACTIVITY_FOLLOW),
1715                                         'otype'        => 'intro'
1716                                 ]);
1717
1718                         }
1719                 } elseif (DBM::is_result($r) && in_array($r[0]['page-flags'], [PAGE_SOAPBOX, PAGE_FREELOVE, PAGE_COMMUNITY])) {
1720                         q("UPDATE `contact` SET `pending` = 0 WHERE `uid` = %d AND `url` = '%s' AND `pending` LIMIT 1",
1721                                         intval($importer['uid']),
1722                                         dbesc($url)
1723                         );
1724                 }
1725
1726         }
1727 }
1728
1729 function lose_follower($importer, $contact, array $datarray = [], $item = "") {
1730
1731         if (($contact['rel'] == CONTACT_IS_FRIEND) || ($contact['rel'] == CONTACT_IS_SHARING)) {
1732                 dba::update('contact', ['rel' => CONTACT_IS_SHARING], ['id' => $contact['id']]);
1733         } else {
1734                 Contact::remove($contact['id']);
1735         }
1736 }
1737
1738 function lose_sharer($importer, $contact, array $datarray = [], $item = "") {
1739
1740         if (($contact['rel'] == CONTACT_IS_FRIEND) || ($contact['rel'] == CONTACT_IS_FOLLOWER)) {
1741                 dba::update('contact', ['rel' => CONTACT_IS_FOLLOWER], ['id' => $contact['id']]);
1742         } else {
1743                 Contact::remove($contact['id']);
1744         }
1745 }
1746
1747 function subscribe_to_hub($url, $importer, $contact, $hubmode = 'subscribe') {
1748
1749         $a = get_app();
1750
1751         if (is_array($importer)) {
1752                 $r = q("SELECT `nickname` FROM `user` WHERE `uid` = %d LIMIT 1",
1753                         intval($importer['uid'])
1754                 );
1755         }
1756
1757         /*
1758          * Diaspora has different message-ids in feeds than they do
1759          * through the direct Diaspora protocol. If we try and use
1760          * the feed, we'll get duplicates. So don't.
1761          */
1762         if ((! DBM::is_result($r)) || $contact['network'] === NETWORK_DIASPORA) {
1763                 return;
1764         }
1765
1766         $push_url = Config::get('system','url') . '/pubsub/' . $r[0]['nickname'] . '/' . $contact['id'];
1767
1768         // Use a single verify token, even if multiple hubs
1769         $verify_token = ((strlen($contact['hub-verify'])) ? $contact['hub-verify'] : random_string());
1770
1771         $params= 'hub.mode=' . $hubmode . '&hub.callback=' . urlencode($push_url) . '&hub.topic=' . urlencode($contact['poll']) . '&hub.verify=async&hub.verify_token=' . $verify_token;
1772
1773         logger('subscribe_to_hub: ' . $hubmode . ' ' . $contact['name'] . ' to hub ' . $url . ' endpoint: '  . $push_url . ' with verifier ' . $verify_token);
1774
1775         if (!strlen($contact['hub-verify']) || ($contact['hub-verify'] != $verify_token)) {
1776                 dba::update('contact', ['hub-verify' => $verify_token], ['id' => $contact['id']]);
1777         }
1778
1779         post_url($url, $params);
1780
1781         logger('subscribe_to_hub: returns: ' . $a->get_curl_code(), LOGGER_DEBUG);
1782
1783         return;
1784
1785 }
1786
1787 /**
1788  *
1789  * @param string $s
1790  * @param int    $uid
1791  * @param array  $item
1792  * @param int    $cid
1793  * @return string
1794  */
1795 function fix_private_photos($s, $uid, $item = null, $cid = 0)
1796 {
1797         if (Config::get('system', 'disable_embedded')) {
1798                 return $s;
1799         }
1800
1801         logger('fix_private_photos: check for photos', LOGGER_DEBUG);
1802         $site = substr(System::baseUrl(), strpos(System::baseUrl(), '://'));
1803
1804         $orig_body = $s;
1805         $new_body = '';
1806
1807         $img_start = strpos($orig_body, '[img');
1808         $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
1809         $img_len = ($img_start !== false ? strpos(substr($orig_body, $img_start + $img_st_close + 1), '[/img]') : false);
1810
1811         while (($img_st_close !== false) && ($img_len !== false)) {
1812                 $img_st_close++; // make it point to AFTER the closing bracket
1813                 $image = substr($orig_body, $img_start + $img_st_close, $img_len);
1814
1815                 logger('fix_private_photos: found photo ' . $image, LOGGER_DEBUG);
1816
1817                 if (stristr($image, $site . '/photo/')) {
1818                         // Only embed locally hosted photos
1819                         $replace = false;
1820                         $i = basename($image);
1821                         $i = str_replace(['.jpg', '.png', '.gif'], ['', '', ''], $i);
1822                         $x = strpos($i, '-');
1823
1824                         if ($x) {
1825                                 $res = substr($i, $x + 1);
1826                                 $i = substr($i, 0, $x);
1827                                 $r = q("SELECT * FROM `photo` WHERE `resource-id` = '%s' AND `scale` = %d AND `uid` = %d",
1828                                         dbesc($i),
1829                                         intval($res),
1830                                         intval($uid)
1831                                 );
1832                                 if (DBM::is_result($r)) {
1833                                         /*
1834                                          * Check to see if we should replace this photo link with an embedded image
1835                                          * 1. No need to do so if the photo is public
1836                                          * 2. If there's a contact-id provided, see if they're in the access list
1837                                          *    for the photo. If so, embed it.
1838                                          * 3. Otherwise, if we have an item, see if the item permissions match the photo
1839                                          *    permissions, regardless of order but first check to see if they're an exact
1840                                          *    match to save some processing overhead.
1841                                          */
1842                                         if (has_permissions($r[0])) {
1843                                                 if ($cid) {
1844                                                         $recips = enumerate_permissions($r[0]);
1845                                                         if (in_array($cid, $recips)) {
1846                                                                 $replace = true;
1847                                                         }
1848                                                 } elseif ($item) {
1849                                                         if (compare_permissions($item, $r[0])) {
1850                                                                 $replace = true;
1851                                                         }
1852                                                 }
1853                                         }
1854                                         if ($replace) {
1855                                                 $data = $r[0]['data'];
1856                                                 $type = $r[0]['type'];
1857
1858                                                 // If a custom width and height were specified, apply before embedding
1859                                                 if (preg_match("/\[img\=([0-9]*)x([0-9]*)\]/is", substr($orig_body, $img_start, $img_st_close), $match)) {
1860                                                         logger('fix_private_photos: scaling photo', LOGGER_DEBUG);
1861
1862                                                         $width = intval($match[1]);
1863                                                         $height = intval($match[2]);
1864
1865                                                         $Image = new Image($data, $type);
1866                                                         if ($Image->isValid()) {
1867                                                                 $Image->scaleDown(max($width, $height));
1868                                                                 $data = $Image->asString();
1869                                                                 $type = $Image->getType();
1870                                                         }
1871                                                 }
1872
1873                                                 logger('fix_private_photos: replacing photo', LOGGER_DEBUG);
1874                                                 $image = 'data:' . $type . ';base64,' . base64_encode($data);
1875                                                 logger('fix_private_photos: replaced: ' . $image, LOGGER_DATA);
1876                                         }
1877                                 }
1878                         }
1879                 }
1880
1881                 $new_body = $new_body . substr($orig_body, 0, $img_start + $img_st_close) . $image . '[/img]';
1882                 $orig_body = substr($orig_body, $img_start + $img_st_close + $img_len + strlen('[/img]'));
1883                 if ($orig_body === false) {
1884                         $orig_body = '';
1885                 }
1886
1887                 $img_start = strpos($orig_body, '[img');
1888                 $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
1889                 $img_len = ($img_start !== false ? strpos(substr($orig_body, $img_start + $img_st_close + 1), '[/img]') : false);
1890         }
1891
1892         $new_body = $new_body . $orig_body;
1893
1894         return $new_body;
1895 }
1896
1897 /// @TODO type-hint is array
1898 function has_permissions($obj) {
1899         return (
1900                 (
1901                         x($obj, 'allow_cid')
1902                 ) || (
1903                         x($obj, 'allow_gid')
1904                 ) || (
1905                         x($obj, 'deny_cid')
1906                 ) || (
1907                         x($obj, 'deny_gid')
1908                 )
1909         );
1910 }
1911
1912 /// @TODO type-hint is array
1913 function compare_permissions($obj1, $obj2) {
1914         // first part is easy. Check that these are exactly the same.
1915         if (($obj1['allow_cid'] == $obj2['allow_cid'])
1916                 && ($obj1['allow_gid'] == $obj2['allow_gid'])
1917                 && ($obj1['deny_cid'] == $obj2['deny_cid'])
1918                 && ($obj1['deny_gid'] == $obj2['deny_gid'])) {
1919                 return true;
1920         }
1921
1922         // This is harder. Parse all the permissions and compare the resulting set.
1923         $recipients1 = enumerate_permissions($obj1);
1924         $recipients2 = enumerate_permissions($obj2);
1925         sort($recipients1);
1926         sort($recipients2);
1927
1928         /// @TODO Comparison of arrays, maybe use array_diff_assoc() here?
1929         return ($recipients1 == $recipients2);
1930 }
1931
1932 // returns an array of contact-ids that are allowed to see this object
1933 /// @TODO type-hint is array
1934 function enumerate_permissions($obj) {
1935         $allow_people = expand_acl($obj['allow_cid']);
1936         $allow_groups = Group::expand(expand_acl($obj['allow_gid']));
1937         $deny_people  = expand_acl($obj['deny_cid']);
1938         $deny_groups  = Group::expand(expand_acl($obj['deny_gid']));
1939         $recipients   = array_unique(array_merge($allow_people, $allow_groups));
1940         $deny         = array_unique(array_merge($deny_people, $deny_groups));
1941         $recipients   = array_diff($recipients, $deny);
1942         return $recipients;
1943 }
1944
1945 function item_getfeedtags($item) {
1946         $ret = [];
1947         $matches = false;
1948         $cnt = preg_match_all('|\#\[url\=(.*?)\](.*?)\[\/url\]|', $item['tag'], $matches);
1949         if ($cnt) {
1950                 for ($x = 0; $x < $cnt; $x ++) {
1951                         if ($matches[1][$x]) {
1952                                 $ret[$matches[2][$x]] = ['#', $matches[1][$x], $matches[2][$x]];
1953                         }
1954                 }
1955         }
1956         $matches = false;
1957         $cnt = preg_match_all('|\@\[url\=(.*?)\](.*?)\[\/url\]|', $item['tag'], $matches);
1958         if ($cnt) {
1959                 for ($x = 0; $x < $cnt; $x ++) {
1960                         if ($matches[1][$x]) {
1961                                 $ret[] = ['@', $matches[1][$x], $matches[2][$x]];
1962                         }
1963                 }
1964         }
1965         return $ret;
1966 }
1967
1968 function item_expire($uid, $days, $network = "", $force = false) {
1969
1970         if (!$uid || ($days < 1)) {
1971                 return;
1972         }
1973
1974         /*
1975          * $expire_network_only = save your own wall posts
1976          * and just expire conversations started by others
1977          */
1978         $expire_network_only = PConfig::get($uid,'expire', 'network_only');
1979         $sql_extra = (intval($expire_network_only) ? " AND wall = 0 " : "");
1980
1981         if ($network != "") {
1982                 $sql_extra .= sprintf(" AND network = '%s' ", dbesc($network));
1983
1984                 /*
1985                  * There is an index "uid_network_received" but not "uid_network_created"
1986                  * This avoids the creation of another index just for one purpose.
1987                  * And it doesn't really matter wether to look at "received" or "created"
1988                  */
1989                 $range = "AND `received` < UTC_TIMESTAMP() - INTERVAL %d DAY ";
1990         } else {
1991                 $range = "AND `created` < UTC_TIMESTAMP() - INTERVAL %d DAY ";
1992         }
1993
1994         $r = q("SELECT `file`, `resource-id`, `starred`, `type`, `id` FROM `item`
1995                 WHERE `uid` = %d $range
1996                 AND `id` = `parent`
1997                 $sql_extra
1998                 AND `deleted` = 0",
1999                 intval($uid),
2000                 intval($days)
2001         );
2002
2003         if (!DBM::is_result($r)) {
2004                 return;
2005         }
2006
2007         $expire_items = PConfig::get($uid, 'expire', 'items', 1);
2008
2009         // Forcing expiring of items - but not notes and marked items
2010         if ($force) {
2011                 $expire_items = true;
2012         }
2013
2014         $expire_notes = PConfig::get($uid, 'expire', 'notes', 1);
2015         $expire_starred = PConfig::get($uid, 'expire', 'starred', 1);
2016         $expire_photos = PConfig::get($uid, 'expire', 'photos', 0);
2017
2018         logger('User '.$uid.': expire: # items=' . count($r). "; expire items: $expire_items, expire notes: $expire_notes, expire starred: $expire_starred, expire photos: $expire_photos");
2019
2020         foreach ($r as $item) {
2021
2022                 // don't expire filed items
2023
2024                 if (strpos($item['file'],'[') !== false) {
2025                         continue;
2026                 }
2027
2028                 // Only expire posts, not photos and photo comments
2029
2030                 if ($expire_photos == 0 && strlen($item['resource-id'])) {
2031                         continue;
2032                 } elseif ($expire_starred == 0 && intval($item['starred'])) {
2033                         continue;
2034                 } elseif ($expire_notes == 0 && $item['type'] == 'note') {
2035                         continue;
2036                 } elseif ($expire_items == 0 && $item['type'] != 'note') {
2037                         continue;
2038                 }
2039
2040                 Item::delete($item['id'], PRIORITY_LOW);
2041         }
2042 }
2043
2044 /// @TODO type-hint is array
2045 function drop_items($items) {
2046         $uid = 0;
2047
2048         if (!local_user() && !remote_user()) {
2049                 return;
2050         }
2051
2052         if (count($items)) {
2053                 foreach ($items as $item) {
2054                         $owner = Item::delete($item);
2055                         if ($owner && ! $uid)
2056                                 $uid = $owner;
2057                 }
2058         }
2059 }
2060
2061 function drop_item($id) {
2062
2063         $a = get_app();
2064
2065         // locate item to be deleted
2066
2067         $r = q("SELECT * FROM `item` WHERE `id` = %d LIMIT 1",
2068                 intval($id)
2069         );
2070
2071         if (!DBM::is_result($r)) {
2072                 notice(t('Item not found.') . EOL);
2073                 goaway(System::baseUrl() . '/' . $_SESSION['return_url']);
2074         }
2075
2076         $item = $r[0];
2077
2078         if ($item['deleted']) {
2079                 return 0;
2080         }
2081
2082         $contact_id = 0;
2083
2084         // check if logged in user is either the author or owner of this item
2085
2086         if (is_array($_SESSION['remote'])) {
2087                 foreach ($_SESSION['remote'] as $visitor) {
2088                         if ($visitor['uid'] == $item['uid'] && $visitor['cid'] == $item['contact-id']) {
2089                                 $contact_id = $visitor['cid'];
2090                                 break;
2091                         }
2092                 }
2093         }
2094
2095         if ((local_user() == $item['uid']) || $contact_id) {
2096
2097                 // Check if we should do HTML-based delete confirmation
2098                 if ($_REQUEST['confirm']) {
2099                         // <form> can't take arguments in its "action" parameter
2100                         // so add any arguments as hidden inputs
2101                         $query = explode_querystring($a->query_string);
2102                         $inputs = [];
2103                         foreach ($query['args'] as $arg) {
2104                                 if (strpos($arg, 'confirm=') === false) {
2105                                         $arg_parts = explode('=', $arg);
2106                                         $inputs[] = ['name' => $arg_parts[0], 'value' => $arg_parts[1]];
2107                                 }
2108                         }
2109
2110                         return replace_macros(get_markup_template('confirm.tpl'), [
2111                                 '$method' => 'get',
2112                                 '$message' => t('Do you really want to delete this item?'),
2113                                 '$extra_inputs' => $inputs,
2114                                 '$confirm' => t('Yes'),
2115                                 '$confirm_url' => $query['base'],
2116                                 '$confirm_name' => 'confirmed',
2117                                 '$cancel' => t('Cancel'),
2118                         ]);
2119                 }
2120                 // Now check how the user responded to the confirmation query
2121                 if ($_REQUEST['canceled']) {
2122                         goaway(System::baseUrl() . '/' . $_SESSION['return_url']);
2123                 }
2124
2125                 // delete the item
2126                 Item::delete($item['id']);
2127
2128                 goaway(System::baseUrl() . '/' . $_SESSION['return_url']);
2129                 //NOTREACHED
2130         } else {
2131                 notice(t('Permission denied.') . EOL);
2132                 goaway(System::baseUrl() . '/' . $_SESSION['return_url']);
2133                 //NOTREACHED
2134         }
2135 }
2136
2137 /// @todo: This query seems to be really slow
2138 function first_post_date($uid, $wall = false) {
2139         $r = q("SELECT `id`, `created` FROM `item`
2140                 WHERE `uid` = %d AND `wall` = %d AND `deleted` = 0 AND `visible` = 1 AND `moderated` = 0
2141                 AND `id` = `parent`
2142                 ORDER BY `created` ASC LIMIT 1",
2143                 intval($uid),
2144                 intval($wall ? 1 : 0)
2145         );
2146         if (DBM::is_result($r)) {
2147                 // logger('first_post_date: ' . $r[0]['id'] . ' ' . $r[0]['created'], LOGGER_DATA);
2148                 return substr(datetime_convert('',date_default_timezone_get(), $r[0]['created']),0,10);
2149         }
2150         return false;
2151 }
2152
2153 /* modified posted_dates() {below} to arrange the list in years */
2154 function list_post_dates($uid, $wall) {
2155         $dnow = datetime_convert('',date_default_timezone_get(), 'now','Y-m-d');
2156
2157         $dthen = first_post_date($uid, $wall);
2158         if (! $dthen) {
2159                 return [];
2160         }
2161
2162         // Set the start and end date to the beginning of the month
2163         $dnow = substr($dnow, 0, 8) . '01';
2164         $dthen = substr($dthen, 0, 8) . '01';
2165
2166         $ret = [];
2167
2168         /*
2169          * Starting with the current month, get the first and last days of every
2170          * month down to and including the month of the first post
2171          */
2172         while (substr($dnow, 0, 7) >= substr($dthen, 0, 7)) {
2173                 $dyear = intval(substr($dnow, 0, 4));
2174                 $dstart = substr($dnow, 0, 8) . '01';
2175                 $dend = substr($dnow, 0, 8) . get_dim(intval($dnow), intval(substr($dnow, 5)));
2176                 $start_month = datetime_convert('', '', $dstart, 'Y-m-d');
2177                 $end_month = datetime_convert('', '', $dend, 'Y-m-d');
2178                 $str = day_translate(datetime_convert('', '', $dnow, 'F'));
2179                 if (!$ret[$dyear]) {
2180                         $ret[$dyear] = [];
2181                 }
2182                 $ret[$dyear][] = [$str, $end_month, $start_month];
2183                 $dnow = datetime_convert('', '', $dnow . ' -1 month', 'Y-m-d');
2184         }
2185         return $ret;
2186 }
2187
2188 function posted_dates($uid, $wall) {
2189         $dnow = datetime_convert('', date_default_timezone_get(), 'now', 'Y-m-d');
2190
2191         $dthen = first_post_date($uid, $wall);
2192         if (! $dthen) {
2193                 return [];
2194         }
2195
2196         // Set the start and end date to the beginning of the month
2197         $dnow = substr($dnow, 0, 8) . '01';
2198         $dthen = substr($dthen, 0, 8) . '01';
2199
2200         $ret = [];
2201         /*
2202          * Starting with the current month, get the first and last days of every
2203          * month down to and including the month of the first post
2204          */
2205         while (substr($dnow, 0, 7) >= substr($dthen, 0, 7)) {
2206                 $dstart = substr($dnow, 0, 8) . '01';
2207                 $dend = substr($dnow, 0, 8) . get_dim(intval($dnow), intval(substr($dnow, 5)));
2208                 $start_month = datetime_convert('', '', $dstart, 'Y-m-d');
2209                 $end_month = datetime_convert('', '', $dend, 'Y-m-d');
2210                 $str = day_translate(datetime_convert('', '', $dnow, 'F Y'));
2211                 $ret[] = [$str, $end_month, $start_month];
2212                 $dnow = datetime_convert('', '', $dnow . ' -1 month', 'Y-m-d');
2213         }
2214         return $ret;
2215 }
2216
2217
2218 function posted_date_widget($url, $uid, $wall) {
2219         $o = '';
2220
2221         if (! Feature::isEnabled($uid, 'archives')) {
2222                 return $o;
2223         }
2224
2225         // For former Facebook folks that left because of "timeline"
2226         /*
2227          * @TODO old-lost code?
2228         if ($wall && intval(PConfig::get($uid, 'system', 'no_wall_archive_widget')))
2229                 return $o;
2230         */
2231
2232         $visible_years = PConfig::get($uid,'system','archive_visible_years');
2233         if (! $visible_years) {
2234                 $visible_years = 5;
2235         }
2236
2237         $ret = list_post_dates($uid, $wall);
2238
2239         if (! DBM::is_result($ret)) {
2240                 return $o;
2241         }
2242
2243         $cutoff_year = intval(datetime_convert('',date_default_timezone_get(), 'now', 'Y')) - $visible_years;
2244         $cutoff = ((array_key_exists($cutoff_year, $ret))? true : false);
2245
2246         $o = replace_macros(get_markup_template('posted_date_widget.tpl'),[
2247                 '$title' => t('Archives'),
2248                 '$size' => $visible_years,
2249                 '$cutoff_year' => $cutoff_year,
2250                 '$cutoff' => $cutoff,
2251                 '$url' => $url,
2252                 '$dates' => $ret,
2253                 '$showmore' => t('show more')
2254
2255         ]);
2256         return $o;
2257 }