include/items.php

   1 <?php
   2
   3 /**
   4  * @file include/items.php
   5  */
   6
   7 use Friendica\App;
   8 use Friendica\ParseUrl;
   9 use Friendica\Util\Lock;
  10 use Friendica\Core\Config;
  11
  12 require_once 'include/bbcode.php';
  13 require_once 'include/oembed.php';
  14 require_once 'include/salmon.php';
  15 require_once 'include/crypto.php';
  16 require_once 'include/Photo.php';
  17 require_once 'include/tags.php';
  18 require_once 'include/files.php';
  19 require_once 'include/text.php';
  20 require_once 'include/email.php';
  21 require_once 'include/threads.php';
  22 require_once 'include/socgraph.php';
  23 require_once 'include/plaintext.php';
  24 require_once 'include/ostatus.php';
  25 require_once 'include/feed.php';
  26 require_once 'include/Contact.php';
  27 require_once 'mod/share.php';
  28 require_once 'include/enotify.php';
  29 require_once 'include/dfrn.php';
  30 require_once 'include/group.php';
  31
  32 /// @TODO one day with composer autoloader no more needed
  33 require_once 'library/defuse/php-encryption-1.2.1/Crypto.php';
  34
  35 function construct_verb($item) {
  36         if ($item['verb']) {
  37                 return $item['verb'];
  38         }
  39         return ACTIVITY_POST;
  40 }
  41
  42 /* limit_body_size()
  43  *
  44  *              The purpose of this function is to apply system message length limits to
  45  *              imported messages without including any embedded photos in the length
  46  */
  47 if (! function_exists('limit_body_size')) {
  48 function limit_body_size($body) {
  49
  50 //      logger('limit_body_size: start', LOGGER_DEBUG);
  51
  52         $maxlen = get_max_import_size();
  53
  54         // If the length of the body, including the embedded images, is smaller
  55         // than the maximum, then don't waste time looking for the images
  56         if ($maxlen && (strlen($body) > $maxlen)) {
  57
  58                 logger('limit_body_size: the total body length exceeds the limit', LOGGER_DEBUG);
  59
  60                 $orig_body = $body;
  61                 $new_body = '';
  62                 $textlen = 0;
  63                 $max_found = false;
  64
  65                 $img_start = strpos($orig_body, '[img');
  66                 $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
  67                 $img_end = ($img_start !== false ? strpos(substr($orig_body, $img_start), '[/img]') : false);
  68                 while (($img_st_close !== false) && ($img_end !== false)) {
  69
  70                         $img_st_close++; // make it point to AFTER the closing bracket
  71                         $img_end += $img_start;
  72                         $img_end += strlen('[/img]');
  73
  74                         if (! strcmp(substr($orig_body, $img_start + $img_st_close, 5), 'data:')) {
  75                                 // This is an embedded image
  76
  77                                 if (($textlen + $img_start) > $maxlen ) {
  78                                         if ($textlen < $maxlen) {
  79                                                 logger('limit_body_size: the limit happens before an embedded image', LOGGER_DEBUG);
  80                                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
  81                                                 $textlen = $maxlen;
  82                                         }
  83                                 } else {
  84                                         $new_body = $new_body . substr($orig_body, 0, $img_start);
  85                                         $textlen += $img_start;
  86                                 }
  87
  88                                 $new_body = $new_body . substr($orig_body, $img_start, $img_end - $img_start);
  89                         } else {
  90
  91                                 if (($textlen + $img_end) > $maxlen ) {
  92                                         if ($textlen < $maxlen) {
  93                                                 logger('limit_body_size: the limit happens before the end of a non-embedded image', LOGGER_DEBUG);
  94                                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
  95                                                 $textlen = $maxlen;
  96                                         }
  97                                 } else {
  98                                         $new_body = $new_body . substr($orig_body, 0, $img_end);
  99                                         $textlen += $img_end;
 100                                 }
 101                         }
 102                         $orig_body = substr($orig_body, $img_end);
 103
 104                         if ($orig_body === false) {
 105                                 // in case the body ends on a closing image tag
 106                                 $orig_body = '';
 107                         }
 108
 109                         $img_start = strpos($orig_body, '[img');
 110                         $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
 111                         $img_end = ($img_start !== false ? strpos(substr($orig_body, $img_start), '[/img]') : false);
 112                 }
 113
 114                 if (($textlen + strlen($orig_body)) > $maxlen) {
 115                         if ($textlen < $maxlen) {
 116                                 logger('limit_body_size: the limit happens after the end of the last image', LOGGER_DEBUG);
 117                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
 118                                 $textlen = $maxlen;
 119                         }
 120                 } else {
 121                         logger('limit_body_size: the text size with embedded images extracted did not violate the limit', LOGGER_DEBUG);
 122                         $new_body = $new_body . $orig_body;
 123                         $textlen += strlen($orig_body);
 124                 }
 125
 126                 return $new_body;
 127         } else {
 128                 return $body;
 129         }
 130 }}
 131
 132 function title_is_body($title, $body) {
 133
 134         $title = strip_tags($title);
 135         $title = trim($title);
 136         $title = html_entity_decode($title, ENT_QUOTES, 'UTF-8');
 137         $title = str_replace(array("\n", "\r", "\t", " "), array("", "", "", ""), $title);
 138
 139         $body = strip_tags($body);
 140         $body = trim($body);
 141         $body = html_entity_decode($body, ENT_QUOTES, 'UTF-8');
 142         $body = str_replace(array("\n", "\r", "\t", " "), array("", "", "", ""), $body);
 143
 144         if (strlen($title) < strlen($body)) {
 145                 $body = substr($body, 0, strlen($title));
 146         }
 147
 148         if (($title != $body) && (substr($title, -3) == "...")) {
 149                 $pos = strrpos($title, "...");
 150                 if ($pos > 0) {
 151                         $title = substr($title, 0, $pos);
 152                         $body = substr($body, 0, $pos);
 153                 }
 154         }
 155
 156         return ($title == $body);
 157 }
 158
 159 function add_page_info_data($data) {
 160         call_hooks('page_info_data', $data);
 161
 162         // It maybe is a rich content, but if it does have everything that a link has,
 163         // then treat it that way
 164         if (($data["type"] == "rich") && is_string($data["title"]) &&
 165                 is_string($data["text"]) && (sizeof($data["images"]) > 0)) {
 166                 $data["type"] = "link";
 167         }
 168
 169         if ((($data["type"] != "link") && ($data["type"] != "video") && ($data["type"] != "photo")) || ($data["title"] == $data["url"])) {
 170                 return "";
 171         }
 172
 173         if ($no_photos && ($data["type"] == "photo")) {
 174                 return "";
 175         }
 176
 177         if (sizeof($data["images"]) > 0) {
 178                 $preview = $data["images"][0];
 179         } else {
 180                 $preview = "";
 181         }
 182
 183         // Escape some bad characters
 184         $data["url"] = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["url"], ENT_QUOTES, 'UTF-8', false));
 185         $data["title"] = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["title"], ENT_QUOTES, 'UTF-8', false));
 186
 187         $text = "[attachment type='".$data["type"]."'";
 188
 189         if ($data["text"] == "") {
 190                 $data["text"] = $data["title"];
 191         }
 192
 193         if ($data["text"] == "") {
 194                 $data["text"] = $data["url"];
 195         }
 196
 197         if ($data["url"] != "") {
 198                 $text .= " url='".$data["url"]."'";
 199         }
 200
 201         if ($data["title"] != "") {
 202                 $text .= " title='".$data["title"]."'";
 203         }
 204
 205         if (sizeof($data["images"]) > 0) {
 206                 $preview = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["images"][0]["src"], ENT_QUOTES, 'UTF-8', false));
 207                 // if the preview picture is larger than 500 pixels then show it in a larger mode
 208                 // But only, if the picture isn't higher than large (To prevent huge posts)
 209                 if (($data["images"][0]["width"] >= 500) && ($data["images"][0]["width"] >= $data["images"][0]["height"])) {
 210                         $text .= " image='".$preview."'";
 211                 } else {
 212                         $text .= " preview='".$preview."'";
 213                 }
 214         }
 215
 216         $text .= "]".$data["text"]."[/attachment]";
 217
 218         $hashtags = "";
 219         if (isset($data["keywords"]) && count($data["keywords"])) {
 220                 $hashtags = "\n";
 221                 foreach ($data["keywords"] AS $keyword) {
 222                         /// @todo make a positive list of allowed characters
 223                         $hashtag = str_replace(array(" ", "+", "/", ".", "#", "'", "’", "`", "(", ")", "„", "“"),
 224                                                 array("", "", "", "", "", "", "", "", "", "", "", ""), $keyword);
 225                         $hashtags .= "#[url=" . App::get_baseurl() . "/search?tag=" . rawurlencode($hashtag) . "]" . $hashtag . "[/url] ";
 226                 }
 227         }
 228
 229         return "\n".$text.$hashtags;
 230 }
 231
 232 function query_page_info($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
 233
 234         $data = ParseUrl::getSiteinfoCached($url, true);
 235
 236         if ($photo != "") {
 237                 $data["images"][0]["src"] = $photo;
 238         }
 239
 240         logger('fetch page info for ' . $url . ' ' . print_r($data, true), LOGGER_DEBUG);
 241
 242         if (!$keywords && isset($data["keywords"])) {
 243                 unset($data["keywords"]);
 244         }
 245
 246         if (($keyword_blacklist != "") && isset($data["keywords"])) {
 247                 $list = explode(", ", $keyword_blacklist);
 248                 foreach ($list AS $keyword) {
 249                         $keyword = trim($keyword);
 250                         $index = array_search($keyword, $data["keywords"]);
 251                         if ($index !== false) {
 252                                 unset($data["keywords"][$index]);
 253                         }
 254                 }
 255         }
 256
 257         return $data;
 258 }
 259
 260 function add_page_keywords($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
 261         $data = query_page_info($url, $no_photos, $photo, $keywords, $keyword_blacklist);
 262
 263         $tags = "";
 264         if (isset($data["keywords"]) && count($data["keywords"])) {
 265                 foreach ($data["keywords"] AS $keyword) {
 266                         $hashtag = str_replace(array(" ", "+", "/", ".", "#", "'"),
 267                                 array("", "", "", "", "", ""), $keyword);
 268
 269                         if ($tags != "") {
 270                                 $tags .= ", ";
 271                         }
 272
 273                         $tags .= "#[url=" . App::get_baseurl() . "/search?tag=" . rawurlencode($hashtag) . "]" . $hashtag . "[/url]";
 274                 }
 275         }
 276
 277         return $tags;
 278 }
 279
 280 function add_page_info($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
 281         $data = query_page_info($url, $no_photos, $photo, $keywords, $keyword_blacklist);
 282
 283         $text = add_page_info_data($data);
 284
 285         return $text;
 286 }
 287
 288 function add_page_info_to_body($body, $texturl = false, $no_photos = false) {
 289
 290         logger('add_page_info_to_body: fetch page info for body ' . $body, LOGGER_DEBUG);
 291
 292         $URLSearchString = "^\[\]";
 293
 294         // Fix for Mastodon where the mentions are in a different format
 295         $body = preg_replace("/\[url\=([$URLSearchString]*)\]([#!@])(.*?)\[\/url\]/ism",
 296                 '$2[url=$1]$3[/url]', $body);
 297
 298         // Adding these spaces is a quick hack due to my problems with regular expressions :)
 299         preg_match("/[^!#@]\[url\]([$URLSearchString]*)\[\/url\]/ism", " " . $body, $matches);
 300
 301         if (!$matches) {
 302                 preg_match("/[^!#@]\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism", " " . $body, $matches);
 303         }
 304
 305         // Convert urls without bbcode elements
 306         if (!$matches && $texturl) {
 307                 preg_match("/([^\]\='".'"'."]|^)(https?\:\/\/[a-zA-Z0-9\:\/\-\?\&\;\.\=\_\~\#\%\$\!\+\,]+)/ism", " ".$body, $matches);
 308
 309                 // Yeah, a hack. I really hate regular expressions :)
 310                 if ($matches) {
 311                         $matches[1] = $matches[2];
 312                 }
 313         }
 314
 315         if ($matches) {
 316                 $footer = add_page_info($matches[1], $no_photos);
 317         }
 318
 319         // Remove the link from the body if the link is attached at the end of the post
 320         if (isset($footer) && (trim($footer) != "") && (strpos($footer, $matches[1]))) {
 321                 $removedlink = trim(str_replace($matches[1], "", $body));
 322                 if (($removedlink == "") || strstr($body, $removedlink)) {
 323                         $body = $removedlink;
 324                 }
 325
 326                 $url = str_replace(array('/', '.'), array('\/', '\.'), $matches[1]);
 327                 $removedlink = preg_replace("/\[url\=" . $url . "\](.*?)\[\/url\]/ism", '', $body);
 328                 if (($removedlink == "") || strstr($body, $removedlink)) {
 329                         $body = $removedlink;
 330                 }
 331         }
 332
 333         // Add the page information to the bottom
 334         if (isset($footer) && (trim($footer) != "")) {
 335                 $body .= $footer;
 336         }
 337
 338         return $body;
 339 }
 340
 341 /**
 342  * Adds a "lang" specification in a "postopts" element of given $arr,
 343  * if possible and not already present.
 344  * Expects "body" element to exist in $arr.
 345  *
 346  * @todo Add a parameter to request forcing override
 347  */
 348 function item_add_language_opt(&$arr) {
 349
 350         if (version_compare(PHP_VERSION, '5.3.0', '<')) {
 351                  // LanguageDetect.php not available ?
 352                 return;
 353         }
 354
 355         if (x($arr, 'postopts') ) {
 356                 if (strstr($arr['postopts'], 'lang=') ) {
 357                         // do not override
 358                         /// @TODO Add parameter to request overriding
 359                         return;
 360                 }
 361                 $postopts = $arr['postopts'];
 362         } else {
 363                 $postopts = "";
 364         }
 365
 366         require_once('library/langdet/Text/LanguageDetect.php');
 367
 368         $naked_body = preg_replace('/\[(.+?)\]/','', $arr['body']);
 369         $l = new Text_LanguageDetect();
 370         //$lng = $l->detectConfidence($naked_body);
 371         //$arr['postopts'] = (($lng['language']) ? 'lang=' . $lng['language'] . ';' . $lng['confidence'] : '');
 372         $lng = $l->detect($naked_body, 3);
 373
 374         if (sizeof($lng) > 0) {
 375                 if ($postopts != "") $postopts .= '&'; // arbitrary separator, to be reviewed
 376                 $postopts .= 'lang=';
 377                 $sep = "";
 378                 foreach ($lng as $language => $score) {
 379                         $postopts .= $sep . $language . ";" . $score;
 380                         $sep = ':';
 381                 }
 382                 $arr['postopts'] = $postopts;
 383         }
 384 }
 385
 386 /**
 387  * @brief Creates an unique guid out of a given uri
 388  *
 389  * @param string $uri uri of an item entry
 390  * @param string $host (Optional) hostname for the GUID prefix
 391  * @return string unique guid
 392  */
 393 function uri_to_guid($uri, $host = "") {
 394
 395         // Our regular guid routine is using this kind of prefix as well
 396         // We have to avoid that different routines could accidentally create the same value
 397         $parsed = parse_url($uri);
 398
 399         if ($host == "") {
 400                 $host = $parsed["host"];
 401         }
 402
 403         $guid_prefix = hash("crc32", $host);
 404
 405         // Remove the scheme to make sure that "https" and "http" doesn't make a difference
 406         unset($parsed["scheme"]);
 407
 408         $host_id = implode("/", $parsed);
 409
 410         // We could use any hash algorithm since it isn't a security issue
 411         $host_hash = hash("ripemd128", $host_id);
 412
 413         return $guid_prefix.$host_hash;
 414 }
 415
 416 /**
 417  * @brief Store the conversation data
 418  *
 419  * @param array $arr Item array with conversation data
 420  * @return array Item array with removed conversation data
 421  */
 422 function store_conversation($arr) {
 423         if (in_array($arr['network'], array(NETWORK_DFRN, NETWORK_DIASPORA, NETWORK_OSTATUS))) {
 424                 $conversation = array('item-uri' => $arr['uri'], 'received' => dbm::date());
 425
 426                 if (isset($arr['parent-uri']) && ($arr['parent-uri'] != $arr['uri'])) {
 427                         $conversation['reply-to-uri'] = $arr['parent-uri'];
 428                 }
 429                 if (isset($arr['thr-parent']) && ($arr['thr-parent'] != $arr['uri'])) {
 430                         $conversation['reply-to-uri'] = $arr['thr-parent'];
 431                 }
 432
 433                 if (isset($arr['conversation-uri'])) {
 434                         $conversation['conversation-uri'] = $arr['conversation-uri'];
 435                 }
 436
 437                 if (isset($arr['conversation-href'])) {
 438                         $conversation['conversation-href'] = $arr['conversation-href'];
 439                 }
 440
 441                 if (isset($arr['protocol'])) {
 442                         $conversation['protocol'] = $arr['protocol'];
 443                 }
 444
 445                 if (isset($arr['source'])) {
 446                         $conversation['source'] = $arr['source'];
 447                 }
 448
 449                 if (!Lock::set('store_conversation')) {
 450                         // When using semaphores, this case never can't happen
 451                         unset($arr['conversation-uri']);
 452                         unset($arr['conversation-href']);
 453                         unset($arr['protocol']);
 454                         unset($arr['source']);
 455                         return $arr;
 456                 }
 457
 458                 $old_conv = dba::fetch_first("SELECT `item-uri`, `reply-to-uri`, `conversation-uri`, `conversation-href`, `protocol`, `source`
 459                                 FROM `conversation` WHERE `item-uri` = ?", $conversation['item-uri']);
 460                 if (dbm::is_result($old_conv)) {
 461                         // Don't update when only the source has changed.
 462                         // Only do this when there had been no source before.
 463                         if ($old_conv['source'] != '') {
 464                                 unset($old_conv['source']);
 465                         }
 466                         // Update structure data all the time but the source only when its from a better protocol.
 467                         if (($old_conv['protocol'] < $conversation['protocol']) && ($old_conv['protocol'] != 0)) {
 468                                 unset($conversation['protocol']);
 469                                 unset($conversation['source']);
 470                         }
 471                         if (!dba::update('conversation', $conversation, array('item-uri' => $conversation['item-uri']), $old_conv)) {
 472                                 logger('Conversation: update for '.$conversation['item-uri'].' from '.$conv['protocol'].' to '.$conversation['protocol'].' failed', LOGGER_DEBUG);
 473                         }
 474                 } else {
 475                         if (!dba::insert('conversation', $conversation)) {
 476                                 logger('Conversation: insert for '.$conversation['item-uri'].' (protocol '.$conversation['protocol'].') failed', LOGGER_DEBUG);
 477                         }
 478                 }
 479                 Lock::remove('store_conversation');
 480         }
 481
 482         unset($arr['conversation-uri']);
 483         unset($arr['conversation-href']);
 484         unset($arr['protocol']);
 485         unset($arr['source']);
 486
 487         return $arr;
 488 }
 489
 490 /// @TODO add type-hint array
 491 function item_store($arr, $force_parent = false, $notify = false, $dontcache = false) {
 492
 493         $a = get_app();
 494
 495         // If it is a posting where users should get notifications, then define it as wall posting
 496         if ($notify) {
 497                 $arr['wall'] = 1;
 498                 $arr['type'] = 'wall';
 499                 $arr['origin'] = 1;
 500                 $arr['last-child'] = 1;
 501                 $arr['network'] = NETWORK_DFRN;
 502                 $arr['protocol'] = PROTOCOL_DFRN;
 503
 504                 // We have to avoid duplicates. So we create the GUID in form of a hash of the plink or uri.
 505                 // In difference to the call to "uri_to_guid" several lines below we add the hash of our own host.
 506                 // This is done because our host is the original creator of the post.
 507                 if (!isset($arr['guid'])) {
 508                         if (isset($arr['plink'])) {
 509                                 $arr['guid'] = uri_to_guid($arr['plink'], $a->get_hostname());
 510                         } elseif (isset($arr['uri'])) {
 511                                 $arr['guid'] = uri_to_guid($arr['uri'], $a->get_hostname());
 512                         }
 513                 }
 514         }
 515
 516         if ($notify) {
 517                 $guid_prefix = "";
 518         } elseif ((trim($arr['guid']) == "") && (trim($arr['plink']) != "")) {
 519                 $arr['guid'] = uri_to_guid($arr['plink']);
 520         } elseif ((trim($arr['guid']) == "") && (trim($arr['uri']) != "")) {
 521                 $arr['guid'] = uri_to_guid($arr['uri']);
 522         } else {
 523                 $parsed = parse_url($arr["author-link"]);
 524                 $guid_prefix = hash("crc32", $parsed["host"]);
 525         }
 526
 527         $arr['guid']          = ((x($arr, 'guid'))          ? notags(trim($arr['guid']))          : get_guid(32, $guid_prefix));
 528         $arr['uri']           = ((x($arr, 'uri'))           ? notags(trim($arr['uri']))           : item_new_uri($a->get_hostname(), $uid, $arr['guid']));
 529
 530         // Store conversation data
 531         $arr = store_conversation($arr);
 532
 533         /*
 534          * If a Diaspora signature structure was passed in, pull it out of the
 535          * item array and set it aside for later storage.
 536          */
 537
 538         $dsprsig = null;
 539         if (x($arr, 'dsprsig')) {
 540                 $encoded_signature = $arr['dsprsig'];
 541                 $dsprsig = json_decode(base64_decode($arr['dsprsig']));
 542                 unset($arr['dsprsig']);
 543         }
 544
 545         // Converting the plink
 546         if ($arr['network'] == NETWORK_OSTATUS) {
 547                 if (isset($arr['plink'])) {
 548                         $arr['plink'] = ostatus::convert_href($arr['plink']);
 549                 } elseif (isset($arr['uri'])) {
 550                         $arr['plink'] = ostatus::convert_href($arr['uri']);
 551                 }
 552         }
 553
 554         if (x($arr, 'gravity')) {
 555                 $arr['gravity'] = intval($arr['gravity']);
 556         } elseif ($arr['parent-uri'] === $arr['uri']) {
 557                 $arr['gravity'] = 0;
 558         } elseif (activity_match($arr['verb'],ACTIVITY_POST)) {
 559                 $arr['gravity'] = 6;
 560         } else {
 561                 $arr['gravity'] = 6;   // extensible catchall
 562         }
 563
 564         if (! x($arr, 'type')) {
 565                 $arr['type']      = 'remote';
 566         }
 567
 568         $uid = intval($arr['uid']);
 569
 570         // check for create date and expire time
 571         $expire_interval = Config::get('system', 'dbclean-expire-days', 0);
 572
 573         $r = dba::select('user', array('expire'), array('uid' => $uid), array("limit" => 1));
 574         if (dbm::is_result($r) && ($r['expire'] > 0) && ($r['expire'] < $expire_interval)) {
 575                 $expire_interval = $r['expire'];
 576         }
 577
 578         if (($expire_interval > 0) && !empty($arr['created'])) {
 579                 $expire_date = time() - ($expire_interval * 86400);
 580                 $created_date = strtotime($arr['created']);
 581                 if ($created_date < $expire_date) {
 582                         logger('item-store: item created ('.date('c', $created_date).') before expiration time ('.date('c', $expire_date).'). ignored. ' . print_r($arr,true), LOGGER_DEBUG);
 583                         return 0;
 584                 }
 585         }
 586
 587         /*
 588          * Do we already have this item?
 589          * We have to check several networks since Friendica posts could be repeated
 590          * via OStatus (maybe Diasporsa as well)
 591          */
 592         if (in_array(trim($arr['network']), array(NETWORK_DIASPORA, NETWORK_DFRN, NETWORK_OSTATUS, ""))) {
 593                 $r = q("SELECT `id`, `network` FROM `item` WHERE `uri` = '%s' AND `uid` = %d AND `network` IN ('%s', '%s', '%s')  LIMIT 1",
 594                                 dbesc(trim($arr['uri'])),
 595                                 intval($uid),
 596                                 dbesc(NETWORK_DIASPORA),
 597                                 dbesc(NETWORK_DFRN),
 598                                 dbesc(NETWORK_OSTATUS)
 599                         );
 600                 if (dbm::is_result($r)) {
 601                         // We only log the entries with a different user id than 0. Otherwise we would have too many false positives
 602                         if ($uid != 0) {
 603                                 logger("Item with uri ".$arr['uri']." already existed for user ".$uid." with id ".$r[0]["id"]." target network ".$r[0]["network"]." - new network: ".$arr['network']);
 604                         }
 605
 606                         return $r[0]["id"];
 607                 }
 608         }
 609
 610         /// @TODO old-lost code?
 611         // Shouldn't happen but we want to make absolutely sure it doesn't leak from a plugin.
 612         // Deactivated, since the bbcode parser can handle with it - and it destroys posts with some smileys that contain "<"
 613         //if ((strpos($arr['body'],'<') !== false) || (strpos($arr['body'],'>') !== false))
 614         //      $arr['body'] = strip_tags($arr['body']);
 615
 616         item_add_language_opt($arr);
 617
 618         $arr['wall']          = ((x($arr, 'wall'))          ? intval($arr['wall'])                : 0);
 619         $arr['extid']         = ((x($arr, 'extid'))         ? notags(trim($arr['extid']))         : '');
 620         $arr['author-name']   = ((x($arr, 'author-name'))   ? trim($arr['author-name'])   : '');
 621         $arr['author-link']   = ((x($arr, 'author-link'))   ? notags(trim($arr['author-link']))   : '');
 622         $arr['author-avatar'] = ((x($arr, 'author-avatar')) ? notags(trim($arr['author-avatar'])) : '');
 623         $arr['owner-name']    = ((x($arr, 'owner-name'))    ? trim($arr['owner-name'])    : '');
 624         $arr['owner-link']    = ((x($arr, 'owner-link'))    ? notags(trim($arr['owner-link']))    : '');
 625         $arr['owner-avatar']  = ((x($arr, 'owner-avatar'))  ? notags(trim($arr['owner-avatar']))  : '');
 626         $arr['received']      = ((x($arr, 'received') !== false) ? datetime_convert('UTC','UTC', $arr['received']) : datetime_convert());
 627         $arr['created']       = ((x($arr, 'created') !== false) ? datetime_convert('UTC','UTC', $arr['created']) : $arr['received']);
 628         $arr['edited']        = ((x($arr, 'edited') !== false) ? datetime_convert('UTC','UTC', $arr['edited']) : $arr['created']);
 629         $arr['changed']       = ((x($arr, 'changed') !== false) ? datetime_convert('UTC','UTC', $arr['changed']) : $arr['created']);
 630         $arr['commented']     = ((x($arr, 'commented') !== false) ? datetime_convert('UTC','UTC', $arr['commented']) : $arr['created']);
 631         $arr['title']         = ((x($arr, 'title'))         ? trim($arr['title'])         : '');
 632         $arr['location']      = ((x($arr, 'location'))      ? trim($arr['location'])      : '');
 633         $arr['coord']         = ((x($arr, 'coord'))         ? notags(trim($arr['coord']))         : '');
 634         $arr['last-child']    = ((x($arr, 'last-child'))    ? intval($arr['last-child'])          : 0 );
 635         $arr['visible']       = ((x($arr, 'visible') !== false) ? intval($arr['visible'])         : 1 );
 636         $arr['deleted']       = 0;
 637         $arr['parent-uri']    = ((x($arr, 'parent-uri'))    ? notags(trim($arr['parent-uri']))    : $arr['uri']);
 638         $arr['verb']          = ((x($arr, 'verb'))          ? notags(trim($arr['verb']))          : '');
 639         $arr['object-type']   = ((x($arr, 'object-type'))   ? notags(trim($arr['object-type']))   : '');
 640         $arr['object']        = ((x($arr, 'object'))        ? trim($arr['object'])                : '');
 641         $arr['target-type']   = ((x($arr, 'target-type'))   ? notags(trim($arr['target-type']))   : '');
 642         $arr['target']        = ((x($arr, 'target'))        ? trim($arr['target'])                : '');
 643         $arr['plink']         = ((x($arr, 'plink'))         ? notags(trim($arr['plink']))         : '');
 644         $arr['allow_cid']     = ((x($arr, 'allow_cid'))     ? trim($arr['allow_cid'])             : '');
 645         $arr['allow_gid']     = ((x($arr, 'allow_gid'))     ? trim($arr['allow_gid'])             : '');
 646         $arr['deny_cid']      = ((x($arr, 'deny_cid'))      ? trim($arr['deny_cid'])              : '');
 647         $arr['deny_gid']      = ((x($arr, 'deny_gid'))      ? trim($arr['deny_gid'])              : '');
 648         $arr['private']       = ((x($arr, 'private'))       ? intval($arr['private'])             : 0 );
 649         $arr['bookmark']      = ((x($arr, 'bookmark'))      ? intval($arr['bookmark'])            : 0 );
 650         $arr['body']          = ((x($arr, 'body'))          ? trim($arr['body'])                  : '');
 651         $arr['tag']           = ((x($arr, 'tag'))           ? notags(trim($arr['tag']))           : '');
 652         $arr['attach']        = ((x($arr, 'attach'))        ? notags(trim($arr['attach']))        : '');
 653         $arr['app']           = ((x($arr, 'app'))           ? notags(trim($arr['app']))           : '');
 654         $arr['origin']        = ((x($arr, 'origin'))        ? intval($arr['origin'])              : 0 );
 655         $arr['network']       = ((x($arr, 'network'))       ? trim($arr['network'])               : '');
 656         $arr['postopts']      = ((x($arr, 'postopts'))      ? trim($arr['postopts'])              : '');
 657         $arr['resource-id']   = ((x($arr, 'resource-id'))   ? trim($arr['resource-id'])           : '');
 658         $arr['event-id']      = ((x($arr, 'event-id'))      ? intval($arr['event-id'])            : 0 );
 659         $arr['inform']        = ((x($arr, 'inform'))        ? trim($arr['inform'])                : '');
 660         $arr['file']          = ((x($arr, 'file'))          ? trim($arr['file'])                  : '');
 661
 662         // When there is no content then we don't post it
 663         if ($arr['body'].$arr['title'] == '') {
 664                 return 0;
 665         }
 666
 667         // Items cannot be stored before they happen ...
 668         if ($arr['created'] > datetime_convert()) {
 669                 $arr['created'] = datetime_convert();
 670         }
 671
 672         // We haven't invented time travel by now.
 673         if ($arr['edited'] > datetime_convert()) {
 674                 $arr['edited'] = datetime_convert();
 675         }
 676
 677         if (($arr['author-link'] == "") && ($arr['owner-link'] == "")) {
 678                 logger("Both author-link and owner-link are empty. Called by: " . App::callstack(), LOGGER_DEBUG);
 679         }
 680
 681         if ($arr['plink'] == "") {
 682                 $arr['plink'] = App::get_baseurl() . '/display/' . urlencode($arr['guid']);
 683         }
 684
 685         if ($arr['network'] == "") {
 686                 $r = q("SELECT `network` FROM `contact` WHERE `network` IN ('%s', '%s', '%s') AND `nurl` = '%s' AND `uid` = %d LIMIT 1",
 687                         dbesc(NETWORK_DFRN), dbesc(NETWORK_DIASPORA), dbesc(NETWORK_OSTATUS),
 688                         dbesc(normalise_link($arr['author-link'])),
 689                         intval($arr['uid'])
 690                 );
 691
 692                 if (!dbm::is_result($r))
 693                         $r = q("SELECT `network` FROM `gcontact` WHERE `network` IN ('%s', '%s', '%s') AND `nurl` = '%s' LIMIT 1",
 694                                 dbesc(NETWORK_DFRN), dbesc(NETWORK_DIASPORA), dbesc(NETWORK_OSTATUS),
 695                                 dbesc(normalise_link($arr['author-link']))
 696                         );
 697
 698                 if (!dbm::is_result($r)) {
 699                         $r = q("SELECT `network` FROM `contact` WHERE `id` = %d AND `uid` = %d LIMIT 1",
 700                                 intval($arr['contact-id']),
 701                                 intval($arr['uid'])
 702                         );
 703                 }
 704
 705                 if (dbm::is_result($r)) {
 706                         $arr['network'] = $r[0]["network"];
 707                 }
 708
 709                 // Fallback to friendica (why is it empty in some cases?)
 710                 if ($arr['network'] == "") {
 711                         $arr['network'] = NETWORK_DFRN;
 712                 }
 713
 714                 logger("item_store: Set network to " . $arr["network"] . " for " . $arr["uri"], LOGGER_DEBUG);
 715         }
 716
 717         // The contact-id should be set before "item_store" was called - but there seems to be some issues
 718         if ($arr["contact-id"] == 0) {
 719                 /*
 720                  * First we are looking for a suitable contact that matches with the author of the post
 721                  * This is done only for comments (See below explanation at "gcontact-id")
 722                  */
 723                 if ($arr['parent-uri'] != $arr['uri']) {
 724                         $arr["contact-id"] = get_contact($arr['author-link'], $uid);
 725                 }
 726
 727                 // If not present then maybe the owner was found
 728                 if ($arr["contact-id"] == 0) {
 729                         $arr["contact-id"] = get_contact($arr['owner-link'], $uid);
 730                 }
 731
 732                 // Still missing? Then use the "self" contact of the current user
 733                 if ($arr["contact-id"] == 0) {
 734                         $r = q("SELECT `id` FROM `contact` WHERE `self` AND `uid` = %d", intval($uid));
 735
 736                         if (dbm::is_result($r)) {
 737                                 $arr["contact-id"] = $r[0]["id"];
 738                         }
 739                 }
 740
 741                 logger("Contact-id was missing for post ".$arr["guid"]." from user id ".$uid." - now set to ".$arr["contact-id"], LOGGER_DEBUG);
 742         }
 743
 744         if ($arr["gcontact-id"] == 0) {
 745                 /*
 746                  * The gcontact should mostly behave like the contact. But is is supposed to be global for the system.
 747                  * This means that wall posts, repeated posts, etc. should have the gcontact id of the owner.
 748                  * On comments the author is the better choice.
 749                  */
 750                 if ($arr['parent-uri'] === $arr['uri']) {
 751                         $arr["gcontact-id"] = get_gcontact_id(array("url" => $arr['owner-link'], "network" => $arr['network'],
 752                                                                  "photo" => $arr['owner-avatar'], "name" => $arr['owner-name']));
 753                 } else {
 754                         $arr["gcontact-id"] = get_gcontact_id(array("url" => $arr['author-link'], "network" => $arr['network'],
 755                                                                  "photo" => $arr['author-avatar'], "name" => $arr['author-name']));
 756                 }
 757         }
 758
 759         if ($arr["author-id"] == 0) {
 760                 $arr["author-id"] = get_contact($arr["author-link"], 0);
 761         }
 762
 763         if ($arr["owner-id"] == 0) {
 764                 $arr["owner-id"] = get_contact($arr["owner-link"], 0);
 765         }
 766
 767         if ($arr['guid'] != "") {
 768                 // Checking if there is already an item with the same guid
 769                 logger('checking for an item for user '.$arr['uid'].' on network '.$arr['network'].' with the guid '.$arr['guid'], LOGGER_DEBUG);
 770                 $r = q("SELECT `guid` FROM `item` WHERE `guid` = '%s' AND `network` = '%s' AND `uid` = '%d' LIMIT 1",
 771                         dbesc($arr['guid']), dbesc($arr['network']), intval($arr['uid']));
 772
 773                 if (dbm::is_result($r)) {
 774                         logger('found item with guid '.$arr['guid'].' for user '.$arr['uid'].' on network '.$arr['network'], LOGGER_DEBUG);
 775                         return 0;
 776                 }
 777         }
 778
 779         // Check for hashtags in the body and repair or add hashtag links
 780         item_body_set_hashtags($arr);
 781
 782         $arr['thr-parent'] = $arr['parent-uri'];
 783
 784         if ($arr['parent-uri'] === $arr['uri']) {
 785                 $parent_id = 0;
 786                 $parent_deleted = 0;
 787                 $allow_cid = $arr['allow_cid'];
 788                 $allow_gid = $arr['allow_gid'];
 789                 $deny_cid  = $arr['deny_cid'];
 790                 $deny_gid  = $arr['deny_gid'];
 791                 $notify_type = 'wall-new';
 792         } else {
 793
 794                 // find the parent and snarf the item id and ACLs
 795                 // and anything else we need to inherit
 796
 797                 $r = q("SELECT * FROM `item` WHERE `uri` = '%s' AND `uid` = %d ORDER BY `id` ASC LIMIT 1",
 798                         dbesc($arr['parent-uri']),
 799                         intval($arr['uid'])
 800                 );
 801
 802                 if (dbm::is_result($r)) {
 803
 804                         // is the new message multi-level threaded?
 805                         // even though we don't support it now, preserve the info
 806                         // and re-attach to the conversation parent.
 807
 808                         if ($r[0]['uri'] != $r[0]['parent-uri']) {
 809                                 $arr['parent-uri'] = $r[0]['parent-uri'];
 810                                 $z = q("SELECT * FROM `item` WHERE `uri` = '%s' AND `parent-uri` = '%s' AND `uid` = %d
 811                                         ORDER BY `id` ASC LIMIT 1",
 812                                         dbesc($r[0]['parent-uri']),
 813                                         dbesc($r[0]['parent-uri']),
 814                                         intval($arr['uid'])
 815                                 );
 816
 817                                 if (dbm::is_result($z)) {
 818                                         $r = $z;
 819                                 }
 820                         }
 821
 822                         $parent_id      = $r[0]['id'];
 823                         $parent_deleted = $r[0]['deleted'];
 824                         $allow_cid      = $r[0]['allow_cid'];
 825                         $allow_gid      = $r[0]['allow_gid'];
 826                         $deny_cid       = $r[0]['deny_cid'];
 827                         $deny_gid       = $r[0]['deny_gid'];
 828                         $arr['wall']    = $r[0]['wall'];
 829                         $notify_type    = 'comment-new';
 830
 831                         /*
 832                          * If the parent is private, force privacy for the entire conversation
 833                          * This differs from the above settings as it subtly allows comments from
 834                          * email correspondents to be private even if the overall thread is not.
 835                          */
 836                         if ($r[0]['private']) {
 837                                 $arr['private'] = $r[0]['private'];
 838                         }
 839
 840                         /*
 841                          * Edge case. We host a public forum that was originally posted to privately.
 842                          * The original author commented, but as this is a comment, the permissions
 843                          * weren't fixed up so it will still show the comment as private unless we fix it here.
 844                          */
 845                         if ((intval($r[0]['forum_mode']) == 1) && (! $r[0]['private'])) {
 846                                 $arr['private'] = 0;
 847                         }
 848
 849                         // If its a post from myself then tag the thread as "mention"
 850                         logger("item_store: Checking if parent ".$parent_id." has to be tagged as mention for user ".$arr['uid'], LOGGER_DEBUG);
 851                         $u = q("SELECT `nickname` FROM `user` WHERE `uid` = %d", intval($arr['uid']));
 852                         if (dbm::is_result($u)) {
 853                                 $a = get_app();
 854                                 $self = normalise_link(App::get_baseurl() . '/profile/' . $u[0]['nickname']);
 855                                 logger("item_store: 'myself' is ".$self." for parent ".$parent_id." checking against ".$arr['author-link']." and ".$arr['owner-link'], LOGGER_DEBUG);
 856                                 if ((normalise_link($arr['author-link']) == $self) || (normalise_link($arr['owner-link']) == $self)) {
 857                                         q("UPDATE `thread` SET `mention` = 1 WHERE `iid` = %d", intval($parent_id));
 858                                         logger("item_store: tagged thread ".$parent_id." as mention for user ".$self, LOGGER_DEBUG);
 859                                 }
 860                         }
 861                 } else {
 862                         /*
 863                          * Allow one to see reply tweets from status.net even when
 864                          * we don't have or can't see the original post.
 865                          */
 866                         if ($force_parent) {
 867                                 logger('item_store: $force_parent=true, reply converted to top-level post.');
 868                                 $parent_id = 0;
 869                                 $arr['parent-uri'] = $arr['uri'];
 870                                 $arr['gravity'] = 0;
 871                         } else {
 872                                 logger('item_store: item parent '.$arr['parent-uri'].' for '.$arr['uid'].' was not found - ignoring item');
 873                                 return 0;
 874                         }
 875
 876                         $parent_deleted = 0;
 877                 }
 878         }
 879
 880         $r = q("SELECT `id` FROM `item` WHERE `uri` = '%s' AND `network` IN ('%s', '%s') AND `uid` = %d LIMIT 1",
 881                 dbesc($arr['uri']),
 882                 dbesc($arr['network']),
 883                 dbesc(NETWORK_DFRN),
 884                 intval($arr['uid'])
 885         );
 886         if (dbm::is_result($r)) {
 887                 logger('duplicated item with the same uri found. '.print_r($arr,true));
 888                 return 0;
 889         }
 890
 891         // On Friendica and Diaspora the GUID is unique
 892         if (in_array($arr['network'], array(NETWORK_DFRN, NETWORK_DIASPORA))) {
 893                 $r = q("SELECT `id` FROM `item` WHERE `guid` = '%s' AND `uid` = %d LIMIT 1",
 894                         dbesc($arr['guid']),
 895                         intval($arr['uid'])
 896                 );
 897                 if (dbm::is_result($r)) {
 898                         logger('duplicated item with the same guid found. '.print_r($arr,true));
 899                         return 0;
 900                 }
 901         } else {
 902                 // Check for an existing post with the same content. There seems to be a problem with OStatus.
 903                 $r = q("SELECT `id` FROM `item` WHERE `body` = '%s' AND `network` = '%s' AND `created` = '%s' AND `contact-id` = %d AND `uid` = %d LIMIT 1",
 904                         dbesc($arr['body']),
 905                         dbesc($arr['network']),
 906                         dbesc($arr['created']),
 907                         intval($arr['contact-id']),
 908                         intval($arr['uid'])
 909                 );
 910                 if (dbm::is_result($r)) {
 911                         logger('duplicated item with the same body found. '.print_r($arr,true));
 912                         return 0;
 913                 }
 914         }
 915
 916         // Is this item available in the global items (with uid=0)?
 917         if ($arr["uid"] == 0) {
 918                 $arr["global"] = true;
 919
 920                 // Set the global flag on all items if this was a global item entry
 921                 q("UPDATE `item` SET `global` = 1 WHERE `uri` = '%s'", dbesc($arr["uri"]));
 922         } else {
 923                 $isglobal = q("SELECT `global` FROM `item` WHERE `uid` = 0 AND `uri` = '%s'", dbesc($arr["uri"]));
 924
 925                 $arr["global"] = (dbm::is_result($isglobal) && count($isglobal) > 0);
 926         }
 927
 928         // ACL settings
 929         if (strlen($allow_cid) || strlen($allow_gid) || strlen($deny_cid) || strlen($deny_gid)) {
 930                 $private = 1;
 931         } else {
 932                 $private = $arr['private'];
 933         }
 934
 935         $arr["allow_cid"] = $allow_cid;
 936         $arr["allow_gid"] = $allow_gid;
 937         $arr["deny_cid"] = $deny_cid;
 938         $arr["deny_gid"] = $deny_gid;
 939         $arr["private"] = $private;
 940         $arr["deleted"] = $parent_deleted;
 941
 942         // Fill the cache field
 943         put_item_in_cache($arr);
 944
 945         if ($notify) {
 946                 call_hooks('post_local', $arr);
 947         } else {
 948                 call_hooks('post_remote', $arr);
 949         }
 950
 951         if (x($arr, 'cancel')) {
 952                 logger('item_store: post cancelled by plugin.');
 953                 return 0;
 954         }
 955
 956         /*
 957          * Check for already added items.
 958          * There is a timing issue here that sometimes creates double postings.
 959          * An unique index would help - but the limitations of MySQL (maximum size of index values) prevent this.
 960          */
 961         if ($arr["uid"] == 0) {
 962                 $r = qu("SELECT `id` FROM `item` WHERE `uri` = '%s' AND `uid` = 0 LIMIT 1", dbesc(trim($arr['uri'])));
 963                 if (dbm::is_result($r)) {
 964                         logger('Global item already stored. URI: '.$arr['uri'].' on network '.$arr['network'], LOGGER_DEBUG);
 965                         return 0;
 966                 }
 967         }
 968
 969         // Store the unescaped version
 970         $unescaped = $arr;
 971
 972         dbm::esc_array($arr, true);
 973
 974         logger('item_store: ' . print_r($arr,true), LOGGER_DATA);
 975
 976         dba::transaction();
 977
 978         $r = dbq("INSERT INTO `item` (`"
 979                         . implode("`, `", array_keys($arr))
 980                         . "`) VALUES ("
 981                         . implode(", ", array_values($arr))
 982                         . ")");
 983
 984         // And restore it
 985         $arr = $unescaped;
 986
 987         // When the item was successfully stored we fetch the ID of the item.
 988         if (dbm::is_result($r)) {
 989                 $r = q("SELECT LAST_INSERT_ID() AS `item-id`");
 990                 if (dbm::is_result($r)) {
 991                         $current_post = $r[0]['item-id'];
 992                 } else {
 993                         // This shouldn't happen
 994                         $current_post = 0;
 995                 }
 996         } else {
 997                 // This can happen - for example - if there are locking timeouts.
 998                 dba::rollback();
 999
1000                 // Store the data into a spool file so that we can try again later.
1001
1002                 // At first we restore the Diaspora signature that we removed above.
1003                 if (isset($encoded_signature)) {
1004                         $arr['dsprsig'] = $encoded_signature;
1005                 }
1006
1007                 // Now we store the data in the spool directory
1008                 // We use "microtime" to keep the arrival order and "mt_rand" to avoid duplicates
1009                 $file = 'item-'.round(microtime(true) * 10000).'-'.mt_rand().'.msg';
1010
1011                 $spoolpath = get_spoolpath();
1012                 if ($spoolpath != "") {
1013                         $spool = $spoolpath.'/'.$file;
1014                         file_put_contents($spool, json_encode($arr));
1015                         logger("Item wasn't stored - Item was spooled into file ".$file, LOGGER_DEBUG);
1016                 }
1017                 return 0;
1018         }
1019
1020         if ($current_post == 0) {
1021                 // This is one of these error messages that never should occur.
1022                 logger("couldn't find created item - we better quit now.");
1023                 dba::rollback();
1024                 return 0;
1025         }
1026
1027         // How much entries have we created?
1028         // We wouldn't need this query when we could use an unique index - but MySQL has length problems with them.
1029         $r = q("SELECT COUNT(*) AS `entries` FROM `item` WHERE `uri` = '%s' AND `uid` = %d AND `network` = '%s'",
1030                 dbesc($arr['uri']),
1031                 intval($arr['uid']),
1032                 dbesc($arr['network'])
1033         );
1034
1035         if (!dbm::is_result($r)) {
1036                 // This shouldn't happen, since COUNT always works when the database connection is there.
1037                 logger("We couldn't count the stored entries. Very strange ...");
1038                 dba::rollback();
1039                 return 0;
1040         }
1041
1042         if ($r[0]["entries"] > 1) {
1043                 // There are duplicates. We delete our just created entry.
1044                 logger('Duplicated post occurred. uri = ' . $arr['uri'] . ' uid = ' . $arr['uid']);
1045
1046                 // Yes, we could do a rollback here - but we are having many users with MyISAM.
1047                 dba::delete('item', array('id' => $current_post));
1048                 dba::commit();
1049                 return 0;
1050         } elseif ($r[0]["entries"] == 0) {
1051                 // This really should never happen since we quit earlier if there were problems.
1052                 logger("Something is terribly wrong. We haven't found our created entry.");
1053                 dba::rollback();
1054                 return 0;
1055         }
1056
1057         logger('item_store: created item '.$current_post);
1058         item_set_last_item($arr);
1059
1060         if (!$parent_id || ($arr['parent-uri'] === $arr['uri'])) {
1061                 $parent_id = $current_post;
1062         }
1063
1064         // Set parent id
1065         $r = q("UPDATE `item` SET `parent` = %d WHERE `id` = %d",
1066                 intval($parent_id),
1067                 intval($current_post)
1068         );
1069
1070         $arr['id'] = $current_post;
1071         $arr['parent'] = $parent_id;
1072
1073         // update the commented timestamp on the parent
1074         // Only update "commented" if it is really a comment
1075         if (($arr['verb'] == ACTIVITY_POST) || !get_config("system", "like_no_comment")) {
1076                 q("UPDATE `item` SET `commented` = '%s', `changed` = '%s' WHERE `id` = %d",
1077                         dbesc(datetime_convert()),
1078                         dbesc(datetime_convert()),
1079                         intval($parent_id)
1080                 );
1081         } else {
1082                 q("UPDATE `item` SET `changed` = '%s' WHERE `id` = %d",
1083                         dbesc(datetime_convert()),
1084                         intval($parent_id)
1085                 );
1086         }
1087
1088         if ($dsprsig) {
1089
1090                 /*
1091                  * Friendica servers lower than 3.4.3-2 had double encoded the signature ...
1092                  * We can check for this condition when we decode and encode the stuff again.
1093                  */
1094                 if (base64_encode(base64_decode(base64_decode($dsprsig->signature))) == base64_decode($dsprsig->signature)) {
1095                         $dsprsig->signature = base64_decode($dsprsig->signature);
1096                         logger("Repaired double encoded signature from handle ".$dsprsig->signer, LOGGER_DEBUG);
1097                 }
1098
1099                 q("INSERT INTO `sign` (`iid`,`signed_text`,`signature`,`signer`) values (%d,'%s','%s','%s') ",
1100                         intval($current_post),
1101                         dbesc($dsprsig->signed_text),
1102                         dbesc($dsprsig->signature),
1103                         dbesc($dsprsig->signer)
1104                 );
1105         }
1106
1107         $deleted = tag_deliver($arr['uid'], $current_post);
1108
1109         /*
1110          * current post can be deleted if is for a community page and no mention are
1111          * in it.
1112          */
1113         if (!$deleted && !$dontcache) {
1114
1115                 $r = q('SELECT * FROM `item` WHERE `id` = %d', intval($current_post));
1116                 if ((dbm::is_result($r)) && (count($r) == 1)) {
1117                         if ($notify) {
1118                                 call_hooks('post_local_end', $r[0]);
1119                         } else {
1120                                 call_hooks('post_remote_end', $r[0]);
1121                         }
1122                 } else {
1123                         logger('item_store: new item not found in DB, id ' . $current_post);
1124                 }
1125         }
1126
1127         if ($arr['parent-uri'] === $arr['uri']) {
1128                 add_thread($current_post);
1129         } else {
1130                 update_thread($parent_id);
1131         }
1132
1133         dba::commit();
1134
1135         /*
1136          * Due to deadlock issues with the "term" table we are doing these steps after the commit.
1137          * This is not perfect - but a workable solution until we found the reason for the problem.
1138          */
1139         create_tags_from_item($current_post);
1140         create_files_from_item($current_post);
1141
1142         /*
1143          * If this is now the last-child, force all _other_ children of this parent to *not* be last-child
1144          * It is done after the transaction to avoid dead locks.
1145          */
1146         if ($arr['last-child']) {
1147                 $r = q("UPDATE `item` SET `last-child` = 0 WHERE `parent-uri` = '%s' AND `uid` = %d AND `id` != %d",
1148                         dbesc($arr['uri']),
1149                         intval($arr['uid']),
1150                         intval($current_post)
1151                 );
1152         }
1153
1154         if ($arr['parent-uri'] === $arr['uri']) {
1155                 add_shadow_thread($current_post);
1156         } else {
1157                 add_shadow_entry($current_post);
1158         }
1159
1160         check_item_notification($current_post, $uid);
1161
1162         if ($notify) {
1163                 proc_run(array('priority' => PRIORITY_HIGH, 'dont_fork' => true), "include/notifier.php", $notify_type, $current_post);
1164         }
1165
1166         return $current_post;
1167 }
1168
1169 /**
1170  * @brief Set "success_update" and "last-item" to the date of the last time we heard from this contact
1171  *
1172  * This can be used to filter for inactive contacts.
1173  * Only do this for public postings to avoid privacy problems, since poco data is public.
1174  * Don't set this value if it isn't from the owner (could be an author that we don't know)
1175  *
1176  * @param array $arr Contains the just posted item record
1177  */
1178 function item_set_last_item($arr) {
1179
1180         $update = (!$arr['private'] && (($arr["author-link"] === $arr["owner-link"]) || ($arr["parent-uri"] === $arr["uri"])));
1181
1182         // Is it a forum? Then we don't care about the rules from above
1183         if (!$update && ($arr["network"] == NETWORK_DFRN) && ($arr["parent-uri"] === $arr["uri"])) {
1184                 $isforum = q("SELECT `forum` FROM `contact` WHERE `id` = %d AND `forum`",
1185                                 intval($arr['contact-id']));
1186                 if (dbm::is_result($isforum)) {
1187                         $update = true;
1188                 }
1189         }
1190
1191         if ($update) {
1192                 q("UPDATE `contact` SET `success_update` = '%s', `last-item` = '%s' WHERE `id` = %d",
1193                         dbesc($arr['received']),
1194                         dbesc($arr['received']),
1195                         intval($arr['contact-id'])
1196                 );
1197         }
1198         // Now do the same for the system wide contacts with uid=0
1199         if (!$arr['private']) {
1200                 q("UPDATE `contact` SET `success_update` = '%s', `last-item` = '%s' WHERE `id` = %d",
1201                         dbesc($arr['received']),
1202                         dbesc($arr['received']),
1203                         intval($arr['owner-id'])
1204                 );
1205
1206                 if ($arr['owner-id'] != $arr['author-id']) {
1207                         q("UPDATE `contact` SET `success_update` = '%s', `last-item` = '%s' WHERE `id` = %d",
1208                                 dbesc($arr['received']),
1209                                 dbesc($arr['received']),
1210                                 intval($arr['author-id'])
1211                         );
1212                 }
1213         }
1214 }
1215
1216 function item_body_set_hashtags(&$item) {
1217
1218         $tags = get_tags($item["body"]);
1219
1220         // No hashtags?
1221         if (!count($tags)) {
1222                 return false;
1223         }
1224
1225         // This sorting is important when there are hashtags that are part of other hashtags
1226         // Otherwise there could be problems with hashtags like #test and #test2
1227         rsort($tags);
1228
1229         $a = get_app();
1230
1231         $URLSearchString = "^\[\]";
1232
1233         /// @TODO old-lost code?
1234         // All hashtags should point to the home server
1235         //$item["body"] = preg_replace("/#\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1236         //              "#[url=".App::get_baseurl()."/search?tag=$2]$2[/url]", $item["body"]);
1237
1238         //$item["tag"] = preg_replace("/#\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1239         //              "#[url=".App::get_baseurl()."/search?tag=$2]$2[/url]", $item["tag"]);
1240
1241         // mask hashtags inside of url, bookmarks and attachments to avoid urls in urls
1242         $item["body"] = preg_replace_callback("/\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1243                 function ($match) {
1244                         return ("[url=" . str_replace("#", "&num;", $match[1]) . "]" . str_replace("#", "&num;", $match[2]) . "[/url]");
1245                 }, $item["body"]);
1246
1247         $item["body"] = preg_replace_callback("/\[bookmark\=([$URLSearchString]*)\](.*?)\[\/bookmark\]/ism",
1248                 function ($match) {
1249                         return ("[bookmark=" . str_replace("#", "&num;", $match[1]) . "]" . str_replace("#", "&num;", $match[2]) . "[/bookmark]");
1250                 }, $item["body"]);
1251
1252         $item["body"] = preg_replace_callback("/\[attachment (.*)\](.*?)\[\/attachment\]/ism",
1253                 function ($match) {
1254                         return ("[attachment " . str_replace("#", "&num;", $match[1]) . "]" . $match[2] . "[/attachment]");
1255                 }, $item["body"]);
1256
1257         // Repair recursive urls
1258         $item["body"] = preg_replace("/&num;\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1259                         "&num;$2", $item["body"]);
1260
1261         foreach ($tags as $tag) {
1262                 if ((strpos($tag, '#') !== 0) || (strpos($tag, '[url='))) {
1263                         continue;
1264                 }
1265
1266                 $basetag = str_replace('_',' ',substr($tag,1));
1267
1268                 $newtag = '#[url=' . App::get_baseurl() . '/search?tag=' . rawurlencode($basetag) . ']' . $basetag . '[/url]';
1269
1270                 $item["body"] = str_replace($tag, $newtag, $item["body"]);
1271
1272                 if (!stristr($item["tag"], "/search?tag=" . $basetag . "]" . $basetag . "[/url]")) {
1273                         if (strlen($item["tag"])) {
1274                                 $item["tag"] = ','.$item["tag"];
1275                         }
1276                         $item["tag"] = $newtag.$item["tag"];
1277                 }
1278         }
1279
1280         // Convert back the masked hashtags
1281         $item["body"] = str_replace("&num;", "#", $item["body"]);
1282 }
1283
1284 function get_item_guid($id) {
1285         $r = q("SELECT `guid` FROM `item` WHERE `id` = %d LIMIT 1", intval($id));
1286         if (dbm::is_result($r)) {
1287                 return $r[0]["guid"];
1288         } else {
1289                 /// @TODO This else-block can be elimited again
1290                 return "";
1291         }
1292 }
1293
1294 function get_item_id($guid, $uid = 0) {
1295
1296         $nick = "";
1297         $id = 0;
1298
1299         if ($uid == 0) {
1300                 $uid == local_user();
1301         }
1302
1303         // Does the given user have this item?
1304         if ($uid) {
1305                 $r = q("SELECT `item`.`id`, `user`.`nickname` FROM `item` INNER JOIN `user` ON `user`.`uid` = `item`.`uid`
1306                         WHERE `item`.`visible` = 1 AND `item`.`deleted` = 0 AND `item`.`moderated` = 0
1307                                 AND `item`.`guid` = '%s' AND `item`.`uid` = %d", dbesc($guid), intval($uid));
1308                 if (dbm::is_result($r)) {
1309                         $id = $r[0]["id"];
1310                         $nick = $r[0]["nickname"];
1311                 }
1312         }
1313
1314         // Or is it anywhere on the server?
1315         if ($nick == "") {
1316                 $r = q("SELECT `item`.`id`, `user`.`nickname` FROM `item` INNER JOIN `user` ON `user`.`uid` = `item`.`uid`
1317                         WHERE `item`.`visible` = 1 AND `item`.`deleted` = 0 AND `item`.`moderated` = 0
1318                                 AND `item`.`allow_cid` = ''  AND `item`.`allow_gid` = ''
1319                                 AND `item`.`deny_cid`  = '' AND `item`.`deny_gid`  = ''
1320                                 AND `item`.`private` = 0 AND `item`.`wall` = 1
1321                                 AND `item`.`guid` = '%s'", dbesc($guid));
1322                 if (dbm::is_result($r)) {
1323                         $id = $r[0]["id"];
1324                         $nick = $r[0]["nickname"];
1325                 }
1326         }
1327         return array("nick" => $nick, "id" => $id);
1328 }
1329
1330 // return - test
1331 function get_item_contact($item, $contacts) {
1332         if (! count($contacts) || (! is_array($item))) {
1333                 return false;
1334         }
1335         foreach ($contacts as $contact) {
1336                 if ($contact['id'] == $item['contact-id']) {
1337                         return $contact;
1338                         break; // NOTREACHED
1339                 }
1340         }
1341         return false;
1342 }
1343
1344 /**
1345  * look for mention tags and setup a second delivery chain for forum/community posts if appropriate
1346  * @param int $uid
1347  * @param int $item_id
1348  * @return bool true if item was deleted, else false
1349  */
1350 function tag_deliver($uid, $item_id) {
1351
1352         $a = get_app();
1353
1354         $mention = false;
1355
1356         $u = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1357                 intval($uid)
1358         );
1359
1360         if (! dbm::is_result($u)) {
1361                 return;
1362         }
1363
1364         $community_page = (($u[0]['page-flags'] == PAGE_COMMUNITY) ? true : false);
1365         $prvgroup = (($u[0]['page-flags'] == PAGE_PRVGROUP) ? true : false);
1366
1367
1368         $i = q("SELECT * FROM `item` WHERE `id` = %d AND `uid` = %d LIMIT 1",
1369                 intval($item_id),
1370                 intval($uid)
1371         );
1372         if (! dbm::is_result($i)) {
1373                 return;
1374         }
1375
1376         $item = $i[0];
1377
1378         $link = normalise_link(App::get_baseurl() . '/profile/' . $u[0]['nickname']);
1379
1380         /*
1381          * Diaspora uses their own hardwired link URL in @-tags
1382          * instead of the one we supply with webfinger
1383          */
1384         $dlink = normalise_link(App::get_baseurl() . '/u/' . $u[0]['nickname']);
1385
1386         $cnt = preg_match_all('/[\@\!]\[url\=(.*?)\](.*?)\[\/url\]/ism', $item['body'], $matches, PREG_SET_ORDER);
1387         if ($cnt) {
1388                 foreach ($matches as $mtch) {
1389                         if (link_compare($link, $mtch[1]) || link_compare($dlink, $mtch[1])) {
1390                                 $mention = true;
1391                                 logger('tag_deliver: mention found: ' . $mtch[2]);
1392                         }
1393                 }
1394         }
1395
1396         if (! $mention) {
1397                 if (($community_page || $prvgroup) &&
1398                           (!$item['wall']) && (!$item['origin']) && ($item['id'] == $item['parent'])) {
1399                         // mmh.. no mention.. community page or private group... no wall.. no origin.. top-post (not a comment)
1400                         // delete it!
1401                         logger("tag_deliver: no-mention top-level post to communuty or private group. delete.");
1402                         dba::delete('item', array('id' => $item_id));
1403                         return true;
1404                 }
1405                 return;
1406         }
1407
1408         $arr = array('item' => $item, 'user' => $u[0], 'contact' => $r[0]);
1409
1410         call_hooks('tagged', $arr);
1411
1412         if ((! $community_page) && (! $prvgroup)) {
1413                 return;
1414         }
1415
1416         /*
1417          * tgroup delivery - setup a second delivery chain
1418          * prevent delivery looping - only proceed
1419          * if the message originated elsewhere and is a top-level post
1420          */
1421         if (($item['wall']) || ($item['origin']) || ($item['id'] != $item['parent'])) {
1422                 return;
1423         }
1424
1425         // now change this copy of the post to a forum head message and deliver to all the tgroup members
1426         $c = q("SELECT `name`, `url`, `thumb` FROM `contact` WHERE `self` = 1 AND `uid` = %d LIMIT 1",
1427                 intval($u[0]['uid'])
1428         );
1429         if (! dbm::is_result($c)) {
1430                 return;
1431         }
1432
1433         // also reset all the privacy bits to the forum default permissions
1434
1435         $private = ($u[0]['allow_cid'] || $u[0]['allow_gid'] || $u[0]['deny_cid'] || $u[0]['deny_gid']) ? 1 : 0;
1436
1437         $forum_mode = (($prvgroup) ? 2 : 1);
1438
1439         q("UPDATE `item` SET `wall` = 1, `origin` = 1, `forum_mode` = %d, `owner-name` = '%s', `owner-link` = '%s', `owner-avatar` = '%s',
1440                 `private` = %d, `allow_cid` = '%s', `allow_gid` = '%s', `deny_cid` = '%s', `deny_gid` = '%s'  WHERE `id` = %d",
1441                 intval($forum_mode),
1442                 dbesc($c[0]['name']),
1443                 dbesc($c[0]['url']),
1444                 dbesc($c[0]['thumb']),
1445                 intval($private),
1446                 dbesc($u[0]['allow_cid']),
1447                 dbesc($u[0]['allow_gid']),
1448                 dbesc($u[0]['deny_cid']),
1449                 dbesc($u[0]['deny_gid']),
1450                 intval($item_id)
1451         );
1452         update_thread($item_id);
1453
1454         proc_run(array('priority' => PRIORITY_HIGH, 'dont_fork' => true), 'include/notifier.php', 'tgroup', $item_id);
1455
1456 }
1457
1458
1459
1460 function tgroup_check($uid, $item) {
1461
1462         $mention = false;
1463
1464         // check that the message originated elsewhere and is a top-level post
1465
1466         if (($item['wall']) || ($item['origin']) || ($item['uri'] != $item['parent-uri'])) {
1467                 return false;
1468         }
1469
1470         /// @TODO Encapsulate this or find it encapsulated and replace all occurrances
1471         $u = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1472                 intval($uid)
1473         );
1474         if (! dbm::is_result($u)) {
1475                 return false;
1476         }
1477
1478         $community_page = (($u[0]['page-flags'] == PAGE_COMMUNITY) ? true : false);
1479         $prvgroup = (($u[0]['page-flags'] == PAGE_PRVGROUP) ? true : false);
1480
1481         $link = normalise_link(App::get_baseurl() . '/profile/' . $u[0]['nickname']);
1482
1483         /*
1484          * Diaspora uses their own hardwired link URL in @-tags
1485          * instead of the one we supply with webfinger
1486          */
1487         $dlink = normalise_link(App::get_baseurl() . '/u/' . $u[0]['nickname']);
1488
1489         $cnt = preg_match_all('/[\@\!]\[url\=(.*?)\](.*?)\[\/url\]/ism', $item['body'], $matches, PREG_SET_ORDER);
1490         if ($cnt) {
1491                 foreach ($matches as $mtch) {
1492                         if (link_compare($link, $mtch[1]) || link_compare($dlink, $mtch[1])) {
1493                                 $mention = true;
1494                                 logger('tgroup_check: mention found: ' . $mtch[2]);
1495                         }
1496                 }
1497         }
1498
1499         if (! $mention) {
1500                 return false;
1501         }
1502
1503         /// @TODO Combine both return statements into one
1504         return (($community_page) || ($prvgroup));
1505 }
1506
1507 /**
1508  * This function returns true if $update has an edited timestamp newer
1509  * than $existing, i.e. $update contains new data which should override
1510  * what's already there.  If there is no timestamp yet, the update is
1511  * assumed to be newer.  If the update has no timestamp, the existing
1512  * item is assumed to be up-to-date.  If the timestamps are equal it
1513  * assumes the update has been seen before and should be ignored.
1514  *
1515  * @todo fix type-hints (both array)
1516  */
1517 function edited_timestamp_is_newer ($existing, $update) {
1518         if (!x($existing, 'edited') || !$existing['edited']) {
1519                 return true;
1520         }
1521         if (!x($update, 'edited') || !$update['edited']) {
1522                 return false;
1523         }
1524
1525         $existing_edited = datetime_convert('UTC', 'UTC', $existing['edited']);
1526         $update_edited = datetime_convert('UTC', 'UTC', $update['edited']);
1527         return (strcmp($existing_edited, $update_edited) < 0);
1528 }
1529
1530 /**
1531  *
1532  * consume_feed - process atom feed and update anything/everything we might need to update
1533  *
1534  * $xml = the (atom) feed to consume - RSS isn't as fully supported but may work for simple feeds.
1535  *
1536  * $importer = the contact_record (joined to user_record) of the local user who owns this relationship.
1537  *             It is this person's stuff that is going to be updated.
1538  * $contact =  the person who is sending us stuff. If not set, we MAY be processing a "follow" activity
1539  *             from an external network and MAY create an appropriate contact record. Otherwise, we MUST
1540  *             have a contact record.
1541  * $hub = should we find a hub declation in the feed, pass it back to our calling process, who might (or
1542  *        might not) try and subscribe to it.
1543  * $datedir sorts in reverse order
1544  * $pass - by default ($pass = 0) we cannot guarantee that a parent item has been
1545  *      imported prior to its children being seen in the stream unless we are certain
1546  *      of how the feed is arranged/ordered.
1547  * With $pass = 1, we only pull parent items out of the stream.
1548  * With $pass = 2, we only pull children (comments/likes).
1549  *
1550  * So running this twice, first with pass 1 and then with pass 2 will do the right
1551  * thing regardless of feed ordering. This won't be adequate in a fully-threaded
1552  * model where comments can have sub-threads. That would require some massive sorting
1553  * to get all the feed items into a mostly linear ordering, and might still require
1554  * recursion.
1555  *
1556  * @todo find proper type-hints
1557  */
1558 function consume_feed($xml, $importer, &$contact, &$hub, $datedir = 0, $pass = 0) {
1559         if ($contact['network'] === NETWORK_OSTATUS) {
1560                 if ($pass < 2) {
1561                         // Test - remove before flight
1562                         //$tempfile = tempnam(get_temppath(), "ostatus2");
1563                         //file_put_contents($tempfile, $xml);
1564                         logger("Consume OStatus messages ", LOGGER_DEBUG);
1565                         ostatus::import($xml, $importer, $contact, $hub);
1566                 }
1567                 return;
1568         }
1569
1570         if ($contact['network'] === NETWORK_FEED) {
1571                 if ($pass < 2) {
1572                         logger("Consume feeds", LOGGER_DEBUG);
1573                         feed_import($xml, $importer, $contact, $hub);
1574                 }
1575                 return;
1576         }
1577
1578         if ($contact['network'] === NETWORK_DFRN) {
1579                 logger("Consume DFRN messages", LOGGER_DEBUG);
1580
1581                 $r = q("SELECT `contact`.*, `contact`.`uid` AS `importer_uid`,
1582                                         `contact`.`pubkey` AS `cpubkey`,
1583                                         `contact`.`prvkey` AS `cprvkey`,
1584                                         `contact`.`thumb` AS `thumb`,
1585                                         `contact`.`url` as `url`,
1586                                         `contact`.`name` as `senderName`,
1587                                         `user`.*
1588                         FROM `contact`
1589                         LEFT JOIN `user` ON `contact`.`uid` = `user`.`uid`
1590                         WHERE `contact`.`id` = %d AND `user`.`uid` = %d",
1591                         dbesc($contact["id"]), dbesc($importer["uid"])
1592                 );
1593                 if (dbm::is_result($r)) {
1594                         logger("Now import the DFRN feed");
1595                         dfrn::import($xml, $r[0], true);
1596                         return;
1597                 }
1598         }
1599 }
1600
1601 /// @TODO type-hint is array
1602 function item_is_remote_self($contact, &$datarray) {
1603         $a = get_app();
1604
1605         if (!$contact['remote_self']) {
1606                 return false;
1607         }
1608
1609         // Prevent the forwarding of posts that are forwarded
1610         if ($datarray["extid"] == NETWORK_DFRN) {
1611                 return false;
1612         }
1613
1614         // Prevent to forward already forwarded posts
1615         if ($datarray["app"] == $a->get_hostname()) {
1616                 return false;
1617         }
1618
1619         // Only forward posts
1620         if ($datarray["verb"] != ACTIVITY_POST) {
1621                 return false;
1622         }
1623
1624         if (($contact['network'] != NETWORK_FEED) && $datarray['private']) {
1625                 return false;
1626         }
1627
1628         $datarray2 = $datarray;
1629         logger('remote-self start - Contact '.$contact['url'].' - '.$contact['remote_self'].' Item '.print_r($datarray, true), LOGGER_DEBUG);
1630         if ($contact['remote_self'] == 2) {
1631                 $r = q("SELECT `id`,`url`,`name`,`thumb` FROM `contact` WHERE `uid` = %d AND `self`",
1632                         intval($contact['uid']));
1633                 if (dbm::is_result($r)) {
1634                         $datarray['contact-id'] = $r[0]["id"];
1635
1636                         $datarray['owner-name'] = $r[0]["name"];
1637                         $datarray['owner-link'] = $r[0]["url"];
1638                         $datarray['owner-avatar'] = $r[0]["thumb"];
1639
1640                         $datarray['author-name']   = $datarray['owner-name'];
1641                         $datarray['author-link']   = $datarray['owner-link'];
1642                         $datarray['author-avatar'] = $datarray['owner-avatar'];
1643
1644                         unset($datarray['created']);
1645                         unset($datarray['edited']);
1646                 }
1647
1648                 if ($contact['network'] != NETWORK_FEED) {
1649                         $datarray["guid"] = get_guid(32);
1650                         unset($datarray["plink"]);
1651                         $datarray["uri"] = item_new_uri($a->get_hostname(), $contact['uid'], $datarray["guid"]);
1652                         $datarray["parent-uri"] = $datarray["uri"];
1653                         $datarray["extid"] = $contact['network'];
1654                         $urlpart = parse_url($datarray2['author-link']);
1655                         $datarray["app"] = $urlpart["host"];
1656                 } else {
1657                         $datarray['private'] = 0;
1658                 }
1659         }
1660
1661         if ($contact['network'] != NETWORK_FEED) {
1662                 // Store the original post
1663                 $r = item_store($datarray2, false, false);
1664                 logger('remote-self post original item - Contact '.$contact['url'].' return '.$r.' Item '.print_r($datarray2, true), LOGGER_DEBUG);
1665         } else {
1666                 $datarray["app"] = "Feed";
1667         }
1668
1669         return true;
1670 }
1671
1672 /// @TODO find proper type-hints
1673 function new_follower($importer, $contact, $datarray, $item, $sharing = false) {
1674         $url = notags(trim($datarray['author-link']));
1675         $name = notags(trim($datarray['author-name']));
1676         $photo = notags(trim($datarray['author-avatar']));
1677
1678         if (is_object($item)) {
1679                 $rawtag = $item->get_item_tags(NAMESPACE_ACTIVITY,'actor');
1680                 if ($rawtag && $rawtag[0]['child'][NAMESPACE_POCO]['preferredUsername'][0]['data']) {
1681                         $nick = $rawtag[0]['child'][NAMESPACE_POCO]['preferredUsername'][0]['data'];
1682                 }
1683         } else {
1684                 $nick = $item;
1685         }
1686
1687         if (is_array($contact)) {
1688                 if (($contact['network'] == NETWORK_OSTATUS && $contact['rel'] == CONTACT_IS_SHARING)
1689                         || ($sharing && $contact['rel'] == CONTACT_IS_FOLLOWER)) {
1690                         $r = q("UPDATE `contact` SET `rel` = %d, `writable` = 1 WHERE `id` = %d AND `uid` = %d",
1691                                 intval(CONTACT_IS_FRIEND),
1692                                 intval($contact['id']),
1693                                 intval($importer['uid'])
1694                         );
1695                 }
1696                 // send email notification to owner?
1697         } else {
1698
1699                 // create contact record
1700
1701                 $r = q("INSERT INTO `contact` (`uid`, `created`, `url`, `nurl`, `name`, `nick`, `photo`, `network`, `rel`,
1702                         `blocked`, `readonly`, `pending`, `writable`)
1703                         VALUES (%d, '%s', '%s', '%s', '%s', '%s', '%s', '%s', %d, 0, 0, 1, 1)",
1704                         intval($importer['uid']),
1705                         dbesc(datetime_convert()),
1706                         dbesc($url),
1707                         dbesc(normalise_link($url)),
1708                         dbesc($name),
1709                         dbesc($nick),
1710                         dbesc($photo),
1711                         dbesc(($sharing) ? NETWORK_ZOT : NETWORK_OSTATUS),
1712                         intval(($sharing) ? CONTACT_IS_SHARING : CONTACT_IS_FOLLOWER)
1713                 );
1714                 $r = q("SELECT `id`, `network` FROM `contact` WHERE `uid` = %d AND `url` = '%s' AND `pending` = 1 LIMIT 1",
1715                                 intval($importer['uid']),
1716                                 dbesc($url)
1717                 );
1718                 if (dbm::is_result($r)) {
1719                         $contact_record = $r[0];
1720                         update_contact_avatar($photo, $importer["uid"], $contact_record["id"], true);
1721                 }
1722
1723                 /// @TODO Encapsulate this into a function/method
1724                 $r = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1725                         intval($importer['uid'])
1726                 );
1727
1728                 if (dbm::is_result($r) && !in_array($r[0]['page-flags'], array(PAGE_SOAPBOX, PAGE_FREELOVE))) {
1729
1730                         // create notification
1731                         $hash = random_string();
1732
1733                         if (is_array($contact_record)) {
1734                                 $ret = q("INSERT INTO `intro` ( `uid`, `contact-id`, `blocked`, `knowyou`, `hash`, `datetime`)
1735                                         VALUES ( %d, %d, 0, 0, '%s', '%s' )",
1736                                         intval($importer['uid']),
1737                                         intval($contact_record['id']),
1738                                         dbesc($hash),
1739                                         dbesc(datetime_convert())
1740                                 );
1741                         }
1742
1743                         $def_gid = get_default_group($importer['uid'], $contact_record["network"]);
1744
1745                         if (intval($def_gid)) {
1746                                 group_add_member($importer['uid'], '', $contact_record['id'], $def_gid);
1747                         }
1748
1749                         if (($r[0]['notify-flags'] & NOTIFY_INTRO) &&
1750                                 in_array($r[0]['page-flags'], array(PAGE_NORMAL))) {
1751
1752                                 notification(array(
1753                                         'type'         => NOTIFY_INTRO,
1754                                         'notify_flags' => $r[0]['notify-flags'],
1755                                         'language'     => $r[0]['language'],
1756                                         'to_name'      => $r[0]['username'],
1757                                         'to_email'     => $r[0]['email'],
1758                                         'uid'          => $r[0]['uid'],
1759                                         'link'             => App::get_baseurl() . '/notifications/intro',
1760                                         'source_name'  => ((strlen(stripslashes($contact_record['name']))) ? stripslashes($contact_record['name']) : t('[Name Withheld]')),
1761                                         'source_link'  => $contact_record['url'],
1762                                         'source_photo' => $contact_record['photo'],
1763                                         'verb'         => ($sharing ? ACTIVITY_FRIEND : ACTIVITY_FOLLOW),
1764                                         'otype'        => 'intro'
1765                                 ));
1766
1767                         }
1768                 } elseif (dbm::is_result($r) && in_array($r[0]['page-flags'], array(PAGE_SOAPBOX, PAGE_FREELOVE))) {
1769                         $r = q("UPDATE `contact` SET `pending` = 0 WHERE `uid` = %d AND `url` = '%s' AND `pending` LIMIT 1",
1770                                         intval($importer['uid']),
1771                                         dbesc($url)
1772                         );
1773                 }
1774
1775         }
1776 }
1777
1778 function lose_follower($importer, $contact, array $datarray = array(), $item = "") {
1779
1780         if (($contact['rel'] == CONTACT_IS_FRIEND) || ($contact['rel'] == CONTACT_IS_SHARING)) {
1781                 q("UPDATE `contact` SET `rel` = %d WHERE `id` = %d",
1782                         intval(CONTACT_IS_SHARING),
1783                         intval($contact['id'])
1784                 );
1785         } else {
1786                 contact_remove($contact['id']);
1787         }
1788 }
1789
1790 function lose_sharer($importer, $contact, array $datarray = array(), $item = "") {
1791
1792         if (($contact['rel'] == CONTACT_IS_FRIEND) || ($contact['rel'] == CONTACT_IS_FOLLOWER)) {
1793                 q("UPDATE `contact` SET `rel` = %d WHERE `id` = %d",
1794                         intval(CONTACT_IS_FOLLOWER),
1795                         intval($contact['id'])
1796                 );
1797         } else {
1798                 contact_remove($contact['id']);
1799         }
1800 }
1801
1802 function subscribe_to_hub($url, $importer, $contact, $hubmode = 'subscribe') {
1803
1804         $a = get_app();
1805
1806         if (is_array($importer)) {
1807                 $r = q("SELECT `nickname` FROM `user` WHERE `uid` = %d LIMIT 1",
1808                         intval($importer['uid'])
1809                 );
1810         }
1811
1812         /*
1813          * Diaspora has different message-ids in feeds than they do
1814          * through the direct Diaspora protocol. If we try and use
1815          * the feed, we'll get duplicates. So don't.
1816          */
1817         if ((! dbm::is_result($r)) || $contact['network'] === NETWORK_DIASPORA) {
1818                 return;
1819         }
1820
1821         $push_url = get_config('system','url') . '/pubsub/' . $r[0]['nickname'] . '/' . $contact['id'];
1822
1823         // Use a single verify token, even if multiple hubs
1824         $verify_token = ((strlen($contact['hub-verify'])) ? $contact['hub-verify'] : random_string());
1825
1826         $params= 'hub.mode=' . $hubmode . '&hub.callback=' . urlencode($push_url) . '&hub.topic=' . urlencode($contact['poll']) . '&hub.verify=async&hub.verify_token=' . $verify_token;
1827
1828         logger('subscribe_to_hub: ' . $hubmode . ' ' . $contact['name'] . ' to hub ' . $url . ' endpoint: '  . $push_url . ' with verifier ' . $verify_token);
1829
1830         if (!strlen($contact['hub-verify']) || ($contact['hub-verify'] != $verify_token)) {
1831                 $r = q("UPDATE `contact` SET `hub-verify` = '%s' WHERE `id` = %d",
1832                         dbesc($verify_token),
1833                         intval($contact['id'])
1834                 );
1835         }
1836
1837         post_url($url, $params);
1838
1839         logger('subscribe_to_hub: returns: ' . $a->get_curl_code(), LOGGER_DEBUG);
1840
1841         return;
1842
1843 }
1844
1845 function fix_private_photos($s, $uid, $item = null, $cid = 0) {
1846
1847         if (get_config('system','disable_embedded')) {
1848                 return $s;
1849         }
1850
1851         $a = get_app();
1852
1853         logger('fix_private_photos: check for photos', LOGGER_DEBUG);
1854         $site = substr(App::get_baseurl(),strpos(App::get_baseurl(),'://'));
1855
1856         $orig_body = $s;
1857         $new_body = '';
1858
1859         $img_start = strpos($orig_body, '[img');
1860         $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
1861         $img_len = ($img_start !== false ? strpos(substr($orig_body, $img_start + $img_st_close + 1), '[/img]') : false);
1862         while ( ($img_st_close !== false) && ($img_len !== false) ) {
1863
1864                 $img_st_close++; // make it point to AFTER the closing bracket
1865                 $image = substr($orig_body, $img_start + $img_st_close, $img_len);
1866
1867                 logger('fix_private_photos: found photo ' . $image, LOGGER_DEBUG);
1868
1869
1870                 if (stristr($image , $site . '/photo/')) {
1871                         // Only embed locally hosted photos
1872                         $replace = false;
1873                         $i = basename($image);
1874                         $i = str_replace(array('.jpg', '.png', '.gif'),array('', '',''), $i);
1875                         $x = strpos($i, '-');
1876
1877                         if ($x) {
1878                                 $res = substr($i, $x + 1);
1879                                 $i = substr($i, 0, $x);
1880                                 $r = q("SELECT * FROM `photo` WHERE `resource-id` = '%s' AND `scale` = %d AND `uid` = %d",
1881                                         dbesc($i),
1882                                         intval($res),
1883                                         intval($uid)
1884
1885                                 );
1886                                 if (dbm::is_result($r)) {
1887                                         /*
1888                                          * Check to see if we should replace this photo link with an embedded image
1889                                          * 1. No need to do so if the photo is public
1890                                          * 2. If there's a contact-id provided, see if they're in the access list
1891                                          *    for the photo. If so, embed it.
1892                                          * 3. Otherwise, if we have an item, see if the item permissions match the photo
1893                                          *    permissions, regardless of order but first check to see if they're an exact
1894                                          *    match to save some processing overhead.
1895                                          */
1896                                         if (has_permissions($r[0])) {
1897                                                 if ($cid) {
1898                                                         $recips = enumerate_permissions($r[0]);
1899                                                         if (in_array($cid, $recips)) {
1900                                                                 $replace = true;
1901                                                         }
1902                                                 } elseif ($item) {
1903                                                         if (compare_permissions($item, $r[0])) {
1904                                                                 $replace = true;
1905                                                         }
1906                                                 }
1907                                         }
1908                                         if ($replace) {
1909                                                 $data = $r[0]['data'];
1910                                                 $type = $r[0]['type'];
1911
1912                                                 // If a custom width and height were specified, apply before embedding
1913                                                 if (preg_match("/\[img\=([0-9]*)x([0-9]*)\]/is", substr($orig_body, $img_start, $img_st_close), $match)) {
1914                                                         logger('fix_private_photos: scaling photo', LOGGER_DEBUG);
1915
1916                                                         $width = intval($match[1]);
1917                                                         $height = intval($match[2]);
1918
1919                                                         $ph = new Photo($data, $type);
1920                                                         if ($ph->is_valid()) {
1921                                                                 $ph->scaleImage(max($width, $height));
1922                                                                 $data = $ph->imageString();
1923                                                                 $type = $ph->getType();
1924                                                         }
1925                                                 }
1926
1927                                                 logger('fix_private_photos: replacing photo', LOGGER_DEBUG);
1928                                                 $image = 'data:' . $type . ';base64,' . base64_encode($data);
1929                                                 logger('fix_private_photos: replaced: ' . $image, LOGGER_DATA);
1930                                         }
1931                                 }
1932                         }
1933                 }
1934
1935                 $new_body = $new_body . substr($orig_body, 0, $img_start + $img_st_close) . $image . '[/img]';
1936                 $orig_body = substr($orig_body, $img_start + $img_st_close + $img_len + strlen('[/img]'));
1937                 if ($orig_body === false) {
1938                         $orig_body = '';
1939                 }
1940
1941                 $img_start = strpos($orig_body, '[img');
1942                 $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
1943                 $img_len = ($img_start !== false ? strpos(substr($orig_body, $img_start + $img_st_close + 1), '[/img]') : false);
1944         }
1945
1946         $new_body = $new_body . $orig_body;
1947
1948         return $new_body;
1949 }
1950
1951 /// @TODO type-hint is array
1952 function has_permissions($obj) {
1953         return (
1954                 (
1955                         x($obj, 'allow_cid')
1956                 ) || (
1957                         x($obj, 'allow_gid')
1958                 ) || (
1959                         x($obj, 'deny_cid')
1960                 ) || (
1961                         x($obj, 'deny_gid')
1962                 )
1963         );
1964 }
1965
1966 /// @TODO type-hint is array
1967 function compare_permissions($obj1, $obj2) {
1968         // first part is easy. Check that these are exactly the same.
1969         if (($obj1['allow_cid'] == $obj2['allow_cid'])
1970                 && ($obj1['allow_gid'] == $obj2['allow_gid'])
1971                 && ($obj1['deny_cid'] == $obj2['deny_cid'])
1972                 && ($obj1['deny_gid'] == $obj2['deny_gid'])) {
1973                 return true;
1974         }
1975
1976         // This is harder. Parse all the permissions and compare the resulting set.
1977         $recipients1 = enumerate_permissions($obj1);
1978         $recipients2 = enumerate_permissions($obj2);
1979         sort($recipients1);
1980         sort($recipients2);
1981
1982         /// @TODO Comparison of arrays, maybe use array_diff_assoc() here?
1983         return ($recipients1 == $recipients2);
1984 }
1985
1986 // returns an array of contact-ids that are allowed to see this object
1987 /// @TODO type-hint is array
1988 function enumerate_permissions($obj) {
1989         $allow_people = expand_acl($obj['allow_cid']);
1990         $allow_groups = expand_groups(expand_acl($obj['allow_gid']));
1991         $deny_people  = expand_acl($obj['deny_cid']);
1992         $deny_groups  = expand_groups(expand_acl($obj['deny_gid']));
1993         $recipients   = array_unique(array_merge($allow_people, $allow_groups));
1994         $deny         = array_unique(array_merge($deny_people, $deny_groups));
1995         $recipients   = array_diff($recipients, $deny);
1996         return $recipients;
1997 }
1998
1999 function item_getfeedtags($item) {
2000         $ret = array();
2001         $matches = false;
2002         $cnt = preg_match_all('|\#\[url\=(.*?)\](.*?)\[\/url\]|', $item['tag'], $matches);
2003         if ($cnt) {
2004                 for ($x = 0; $x < $cnt; $x ++) {
2005                         if ($matches[1][$x]) {
2006                                 $ret[$matches[2][$x]] = array('#', $matches[1][$x], $matches[2][$x]);
2007                         }
2008                 }
2009         }
2010         $matches = false;
2011         $cnt = preg_match_all('|\@\[url\=(.*?)\](.*?)\[\/url\]|', $item['tag'], $matches);
2012         if ($cnt) {
2013                 for ($x = 0; $x < $cnt; $x ++) {
2014                         if ($matches[1][$x]) {
2015                                 $ret[] = array('@', $matches[1][$x], $matches[2][$x]);
2016                         }
2017                 }
2018         }
2019         return $ret;
2020 }
2021
2022 function item_expire($uid, $days, $network = "", $force = false) {
2023
2024         if ((! $uid) || ($days < 1)) {
2025                 return;
2026         }
2027
2028         /*
2029          * $expire_network_only = save your own wall posts
2030          * and just expire conversations started by others
2031          */
2032         $expire_network_only = get_pconfig($uid,'expire', 'network_only');
2033         $sql_extra = ((intval($expire_network_only)) ? " AND wall = 0 " : "");
2034
2035         if ($network != "") {
2036                 $sql_extra .= sprintf(" AND network = '%s' ", dbesc($network));
2037
2038                 /*
2039                  * There is an index "uid_network_received" but not "uid_network_created"
2040                  * This avoids the creation of another index just for one purpose.
2041                  * And it doesn't really matter wether to look at "received" or "created"
2042                  */
2043                 $range = "AND `received` < UTC_TIMESTAMP() - INTERVAL %d DAY ";
2044         } else {
2045                 $range = "AND `created` < UTC_TIMESTAMP() - INTERVAL %d DAY ";
2046         }
2047
2048         $r = q("SELECT `file`, `resource-id`, `starred`, `type`, `id` FROM `item`
2049                 WHERE `uid` = %d $range
2050                 AND `id` = `parent`
2051                 $sql_extra
2052                 AND `deleted` = 0",
2053                 intval($uid),
2054                 intval($days)
2055         );
2056
2057         if (! dbm::is_result($r)) {
2058                 return;
2059         }
2060
2061         $expire_items = get_pconfig($uid, 'expire', 'items');
2062         $expire_items = (($expire_items === false) ? 1 : intval($expire_items)); // default if not set: 1
2063
2064         // Forcing expiring of items - but not notes and marked items
2065         if ($force) {
2066                 $expire_items = true;
2067         }
2068
2069         $expire_notes = get_pconfig($uid, 'expire', 'notes');
2070         $expire_notes = (($expire_notes === false) ? 1 : intval($expire_notes)); // default if not set: 1
2071
2072         $expire_starred = get_pconfig($uid, 'expire', 'starred');
2073         $expire_starred = (($expire_starred === false) ? 1 : intval($expire_starred)); // default if not set: 1
2074
2075         $expire_photos = get_pconfig($uid, 'expire', 'photos');
2076         $expire_photos = (($expire_photos === false) ? 0 : intval($expire_photos)); // default if not set: 0
2077
2078         logger('User '.$uid.': expire: # items=' . count($r). "; expire items: $expire_items, expire notes: $expire_notes, expire starred: $expire_starred, expire photos: $expire_photos");
2079
2080         foreach ($r as $item) {
2081
2082                 // don't expire filed items
2083
2084                 if (strpos($item['file'],'[') !== false) {
2085                         continue;
2086                 }
2087
2088                 // Only expire posts, not photos and photo comments
2089
2090                 if ($expire_photos == 0 && strlen($item['resource-id'])) {
2091                         continue;
2092                 } elseif ($expire_starred == 0 && intval($item['starred'])) {
2093                         continue;
2094                 } elseif ($expire_notes == 0 && $item['type'] == 'note') {
2095                         continue;
2096                 } elseif ($expire_items == 0 && $item['type'] != 'note') {
2097                         continue;
2098                 }
2099
2100                 drop_item($item['id'], false);
2101         }
2102
2103         proc_run(array('priority' => PRIORITY_LOW, 'dont_fork' => true), "include/notifier.php", "expire", $uid);
2104
2105 }
2106
2107 /// @TODO type-hint is array
2108 function drop_items($items) {
2109         $uid = 0;
2110
2111         if (! local_user() && ! remote_user()) {
2112                 return;
2113         }
2114
2115         if (count($items)) {
2116                 foreach ($items as $item) {
2117                         $owner = drop_item($item,false);
2118                         if ($owner && ! $uid)
2119                                 $uid = $owner;
2120                 }
2121         }
2122
2123         // multiple threads may have been deleted, send an expire notification
2124
2125         if ($uid) {
2126                 proc_run(array('priority' => PRIORITY_LOW, 'dont_fork' => true), "include/notifier.php", "expire", $uid);
2127         }
2128 }
2129
2130
2131 function drop_item($id, $interactive = true) {
2132
2133         $a = get_app();
2134
2135         // locate item to be deleted
2136
2137         $r = q("SELECT * FROM `item` WHERE `id` = %d LIMIT 1",
2138                 intval($id)
2139         );
2140
2141         if (! dbm::is_result($r)) {
2142                 if (! $interactive) {
2143                         return 0;
2144                 }
2145                 notice( t('Item not found.') . EOL);
2146                 goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2147         }
2148
2149         $item = $r[0];
2150
2151         if ($item['deleted']) {
2152                 return 0;
2153         }
2154
2155         $owner = $item['uid'];
2156
2157         $contact_id = 0;
2158
2159         // check if logged in user is either the author or owner of this item
2160
2161         if (is_array($_SESSION['remote'])) {
2162                 foreach ($_SESSION['remote'] as $visitor) {
2163                         if ($visitor['uid'] == $item['uid'] && $visitor['cid'] == $item['contact-id']) {
2164                                 $contact_id = $visitor['cid'];
2165                                 break;
2166                         }
2167                 }
2168         }
2169
2170
2171         if ((local_user() == $item['uid']) || ($contact_id) || (! $interactive)) {
2172
2173                 // Check if we should do HTML-based delete confirmation
2174                 if ($_REQUEST['confirm']) {
2175                         // <form> can't take arguments in its "action" parameter
2176                         // so add any arguments as hidden inputs
2177                         $query = explode_querystring($a->query_string);
2178                         $inputs = array();
2179                         foreach ($query['args'] as $arg) {
2180                                 if (strpos($arg, 'confirm=') === false) {
2181                                         $arg_parts = explode('=', $arg);
2182                                         $inputs[] = array('name' => $arg_parts[0], 'value' => $arg_parts[1]);
2183                                 }
2184                         }
2185
2186                         return replace_macros(get_markup_template('confirm.tpl'), array(
2187                                 '$method' => 'get',
2188                                 '$message' => t('Do you really want to delete this item?'),
2189                                 '$extra_inputs' => $inputs,
2190                                 '$confirm' => t('Yes'),
2191                                 '$confirm_url' => $query['base'],
2192                                 '$confirm_name' => 'confirmed',
2193                                 '$cancel' => t('Cancel'),
2194                         ));
2195                 }
2196                 // Now check how the user responded to the confirmation query
2197                 if ($_REQUEST['canceled']) {
2198                         goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2199                 }
2200
2201                 logger('delete item: ' . $item['id'], LOGGER_DEBUG);
2202                 // delete the item
2203
2204                 $r = q("UPDATE `item` SET `deleted` = 1, `title` = '', `body` = '', `edited` = '%s', `changed` = '%s' WHERE `id` = %d",
2205                         dbesc(datetime_convert()),
2206                         dbesc(datetime_convert()),
2207                         intval($item['id'])
2208                 );
2209                 create_tags_from_item($item['id']);
2210                 create_files_from_item($item['id']);
2211                 delete_thread($item['id'], $item['parent-uri']);
2212
2213                 // clean up categories and tags so they don't end up as orphans
2214
2215                 $matches = false;
2216                 $cnt = preg_match_all('/<(.*?)>/', $item['file'], $matches, PREG_SET_ORDER);
2217                 if ($cnt) {
2218                         foreach ($matches as $mtch) {
2219                                 file_tag_unsave_file($item['uid'], $item['id'], $mtch[1],true);
2220                         }
2221                 }
2222
2223                 $matches = false;
2224
2225                 $cnt = preg_match_all('/\[(.*?)\]/', $item['file'], $matches, PREG_SET_ORDER);
2226                 if ($cnt) {
2227                         foreach ($matches as $mtch) {
2228                                 file_tag_unsave_file($item['uid'], $item['id'], $mtch[1],false);
2229                         }
2230                 }
2231
2232                 /*
2233                  * If item is a link to a photo resource, nuke all the associated photos
2234                  * (visitors will not have photo resources)
2235                  * This only applies to photos uploaded from the photos page. Photos inserted into a post do not
2236                  * generate a resource-id and therefore aren't intimately linked to the item.
2237                  */
2238                 if (strlen($item['resource-id'])) {
2239                         q("DELETE FROM `photo` WHERE `resource-id` = '%s' AND `uid` = %d ",
2240                                 dbesc($item['resource-id']),
2241                                 intval($item['uid'])
2242                         );
2243                         // ignore the result
2244                 }
2245
2246                 // If item is a link to an event, nuke the event record.
2247                 if (intval($item['event-id'])) {
2248                         q("DELETE FROM `event` WHERE `id` = %d AND `uid` = %d",
2249                                 intval($item['event-id']),
2250                                 intval($item['uid'])
2251                         );
2252                         // ignore the result
2253                 }
2254
2255                 // If item has attachments, drop them
2256                 foreach (explode(", ", $item['attach']) as $attach) {
2257                         preg_match("|attach/(\d+)|", $attach, $matches);
2258                         q("DELETE FROM `attach` WHERE `id` = %d AND `uid` = %d",
2259                                 intval($matches[1]),
2260                                 local_user()
2261                         );
2262                         // ignore the result
2263                 }
2264
2265                 // The new code splits the queries since the mysql optimizer really has bad problems with subqueries
2266
2267                 // Creating list of parents
2268                 $r = q("SELECT `id` FROM `item` WHERE `parent` = %d AND `uid` = %d",
2269                         intval($item['id']),
2270                         intval($item['uid'])
2271                 );
2272
2273                 $parentid = "";
2274
2275                 foreach ($r as $row) {
2276                         if ($parentid != "") {
2277                                 $parentid .= ", ";
2278                         }
2279
2280                         $parentid .= $row["id"];
2281                 }
2282
2283                 // Now delete them
2284                 if ($parentid != "") {
2285                         $r = q("DELETE FROM `item_id` WHERE `iid` IN (%s)", dbesc($parentid));
2286                         $r = q("DELETE FROM `sign` WHERE `iid` IN (%s)", dbesc($parentid));
2287                 }
2288
2289                 // If it's the parent of a comment thread, kill all the kids
2290                 if ($item['uri'] == $item['parent-uri']) {
2291                         $r = q("UPDATE `item` SET `deleted` = 1, `edited` = '%s', `changed` = '%s', `body` = '' , `title` = ''
2292                                 WHERE `parent-uri` = '%s' AND `uid` = %d ",
2293                                 dbesc(datetime_convert()),
2294                                 dbesc(datetime_convert()),
2295                                 dbesc($item['parent-uri']),
2296                                 intval($item['uid'])
2297                         );
2298                         create_tags_from_itemuri($item['parent-uri'], $item['uid']);
2299                         create_files_from_itemuri($item['parent-uri'], $item['uid']);
2300                         delete_thread_uri($item['parent-uri'], $item['uid']);
2301                         // ignore the result
2302                 } else {
2303                         // ensure that last-child is set in case the comment that had it just got wiped.
2304                         q("UPDATE `item` SET `last-child` = 0, `changed` = '%s' WHERE `parent-uri` = '%s' AND `uid` = %d ",
2305                                 dbesc(datetime_convert()),
2306                                 dbesc($item['parent-uri']),
2307                                 intval($item['uid'])
2308                         );
2309                         // who is the last child now?
2310                         $r = q("SELECT `id` FROM `item` WHERE `parent-uri` = '%s' AND `type` != 'activity' AND `deleted` = 0 AND `uid` = %d ORDER BY `edited` DESC LIMIT 1",
2311                                 dbesc($item['parent-uri']),
2312                                 intval($item['uid'])
2313                         );
2314                         if (dbm::is_result($r)) {
2315                                 q("UPDATE `item` SET `last-child` = 1 WHERE `id` = %d",
2316                                         intval($r[0]['id'])
2317                                 );
2318                         }
2319                 }
2320
2321                 // send the notification upstream/downstream
2322                 // The priority depends on how the deletion is done.
2323                 $drop_id = intval($item['id']);
2324                 $priority = ($interactive ? PRIORITY_HIGH : PRIORITY_LOW);
2325
2326                 proc_run(array('priority' => $priority, 'dont_fork' => true), "include/notifier.php", "drop", $drop_id);
2327
2328                 if (! $interactive) {
2329                         return $owner;
2330                 }
2331                 goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2332                 //NOTREACHED
2333         } else {
2334                 if (! $interactive) {
2335                         return 0;
2336                 }
2337                 notice( t('Permission denied.') . EOL);
2338                 goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2339                 //NOTREACHED
2340         }
2341
2342 }
2343
2344 /// @todo: This query seems to be really slow
2345 function first_post_date($uid, $wall = false) {
2346         $r = q("SELECT `id`, `created` FROM `item`
2347                 WHERE `uid` = %d AND `wall` = %d AND `deleted` = 0 AND `visible` = 1 AND `moderated` = 0
2348                 AND `id` = `parent`
2349                 ORDER BY `created` ASC LIMIT 1",
2350                 intval($uid),
2351                 intval($wall ? 1 : 0)
2352         );
2353         if (dbm::is_result($r)) {
2354                 // logger('first_post_date: ' . $r[0]['id'] . ' ' . $r[0]['created'], LOGGER_DATA);
2355                 return substr(datetime_convert('',date_default_timezone_get(), $r[0]['created']),0,10);
2356         }
2357         return false;
2358 }
2359
2360 /* modified posted_dates() {below} to arrange the list in years */
2361 function list_post_dates($uid, $wall) {
2362         $dnow = datetime_convert('',date_default_timezone_get(), 'now','Y-m-d');
2363
2364         $dthen = first_post_date($uid, $wall);
2365         if (! $dthen) {
2366                 return array();
2367         }
2368
2369         // Set the start and end date to the beginning of the month
2370         $dnow = substr($dnow, 0, 8) . '01';
2371         $dthen = substr($dthen, 0, 8) . '01';
2372
2373         $ret = array();
2374
2375         /*
2376          * Starting with the current month, get the first and last days of every
2377          * month down to and including the month of the first post
2378          */
2379         while (substr($dnow, 0, 7) >= substr($dthen, 0, 7)) {
2380                 $dyear = intval(substr($dnow, 0, 4));
2381                 $dstart = substr($dnow, 0, 8) . '01';
2382                 $dend = substr($dnow, 0, 8) . get_dim(intval($dnow), intval(substr($dnow, 5)));
2383                 $start_month = datetime_convert('', '', $dstart, 'Y-m-d');
2384                 $end_month = datetime_convert('', '', $dend, 'Y-m-d');
2385                 $str = day_translate(datetime_convert('', '', $dnow, 'F'));
2386                 if (!$ret[$dyear]) {
2387                         $ret[$dyear] = array();
2388                 }
2389                 $ret[$dyear][] = array($str, $end_month, $start_month);
2390                 $dnow = datetime_convert('', '', $dnow . ' -1 month', 'Y-m-d');
2391         }
2392         return $ret;
2393 }
2394
2395 function posted_dates($uid, $wall) {
2396         $dnow = datetime_convert('', date_default_timezone_get(), 'now', 'Y-m-d');
2397
2398         $dthen = first_post_date($uid, $wall);
2399         if (! $dthen) {
2400                 return array();
2401         }
2402
2403         // Set the start and end date to the beginning of the month
2404         $dnow = substr($dnow, 0, 8) . '01';
2405         $dthen = substr($dthen, 0, 8) . '01';
2406
2407         $ret = array();
2408         /*
2409          * Starting with the current month, get the first and last days of every
2410          * month down to and including the month of the first post
2411          */
2412         while (substr($dnow, 0, 7) >= substr($dthen, 0, 7)) {
2413                 $dstart = substr($dnow, 0, 8) . '01';
2414                 $dend = substr($dnow, 0, 8) . get_dim(intval($dnow), intval(substr($dnow, 5)));
2415                 $start_month = datetime_convert('', '', $dstart, 'Y-m-d');
2416                 $end_month = datetime_convert('', '', $dend, 'Y-m-d');
2417                 $str = day_translate(datetime_convert('', '', $dnow, 'F Y'));
2418                 $ret[] = array($str, $end_month, $start_month);
2419                 $dnow = datetime_convert('', '', $dnow . ' -1 month', 'Y-m-d');
2420         }
2421         return $ret;
2422 }
2423
2424
2425 function posted_date_widget($url, $uid, $wall) {
2426         $o = '';
2427
2428         if (! feature_enabled($uid, 'archives')) {
2429                 return $o;
2430         }
2431
2432         // For former Facebook folks that left because of "timeline"
2433         /*
2434          * @TODO old-lost code?
2435         if ($wall && intval(get_pconfig($uid, 'system', 'no_wall_archive_widget')))
2436                 return $o;
2437         */
2438
2439         $visible_years = get_pconfig($uid,'system','archive_visible_years');
2440         if (! $visible_years) {
2441                 $visible_years = 5;
2442         }
2443
2444         $ret = list_post_dates($uid, $wall);
2445
2446         if (! dbm::is_result($ret)) {
2447                 return $o;
2448         }
2449
2450         $cutoff_year = intval(datetime_convert('',date_default_timezone_get(), 'now', 'Y')) - $visible_years;
2451         $cutoff = ((array_key_exists($cutoff_year, $ret))? true : false);
2452
2453         $o = replace_macros(get_markup_template('posted_date_widget.tpl'),array(
2454                 '$title' => t('Archives'),
2455                 '$size' => $visible_years,
2456                 '$cutoff_year' => $cutoff_year,
2457                 '$cutoff' => $cutoff,
2458                 '$url' => $url,
2459                 '$dates' => $ret,
2460                 '$showmore' => t('show more')
2461
2462         ));
2463         return $o;
2464 }