include/items.php

   1 <?php
   2
   3 /**
   4  * @file include/items.php
   5  */
   6
   7 use Friendica\App;
   8 use Friendica\ParseUrl;
   9
  10 require_once 'include/bbcode.php';
  11 require_once 'include/oembed.php';
  12 require_once 'include/salmon.php';
  13 require_once 'include/crypto.php';
  14 require_once 'include/Photo.php';
  15 require_once 'include/tags.php';
  16 require_once 'include/files.php';
  17 require_once 'include/text.php';
  18 require_once 'include/email.php';
  19 require_once 'include/threads.php';
  20 require_once 'include/socgraph.php';
  21 require_once 'include/plaintext.php';
  22 require_once 'include/ostatus.php';
  23 require_once 'include/feed.php';
  24 require_once 'include/Contact.php';
  25 require_once 'mod/share.php';
  26 require_once 'include/enotify.php';
  27 require_once 'include/dfrn.php';
  28 require_once 'include/group.php';
  29
  30 /// @TODO one day with composer autoloader no more needed
  31 require_once 'library/defuse/php-encryption-1.2.1/Crypto.php';
  32
  33 function construct_verb($item) {
  34         if ($item['verb']) {
  35                 return $item['verb'];
  36         }
  37         return ACTIVITY_POST;
  38 }
  39
  40 /* limit_body_size()
  41  *
  42  *              The purpose of this function is to apply system message length limits to
  43  *              imported messages without including any embedded photos in the length
  44  */
  45 if (! function_exists('limit_body_size')) {
  46 function limit_body_size($body) {
  47
  48 //      logger('limit_body_size: start', LOGGER_DEBUG);
  49
  50         $maxlen = get_max_import_size();
  51
  52         // If the length of the body, including the embedded images, is smaller
  53         // than the maximum, then don't waste time looking for the images
  54         if ($maxlen && (strlen($body) > $maxlen)) {
  55
  56                 logger('limit_body_size: the total body length exceeds the limit', LOGGER_DEBUG);
  57
  58                 $orig_body = $body;
  59                 $new_body = '';
  60                 $textlen = 0;
  61                 $max_found = false;
  62
  63                 $img_start = strpos($orig_body, '[img');
  64                 $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
  65                 $img_end = ($img_start !== false ? strpos(substr($orig_body, $img_start), '[/img]') : false);
  66                 while (($img_st_close !== false) && ($img_end !== false)) {
  67
  68                         $img_st_close++; // make it point to AFTER the closing bracket
  69                         $img_end += $img_start;
  70                         $img_end += strlen('[/img]');
  71
  72                         if (! strcmp(substr($orig_body, $img_start + $img_st_close, 5), 'data:')) {
  73                                 // This is an embedded image
  74
  75                                 if (($textlen + $img_start) > $maxlen ) {
  76                                         if ($textlen < $maxlen) {
  77                                                 logger('limit_body_size: the limit happens before an embedded image', LOGGER_DEBUG);
  78                                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
  79                                                 $textlen = $maxlen;
  80                                         }
  81                                 } else {
  82                                         $new_body = $new_body . substr($orig_body, 0, $img_start);
  83                                         $textlen += $img_start;
  84                                 }
  85
  86                                 $new_body = $new_body . substr($orig_body, $img_start, $img_end - $img_start);
  87                         } else {
  88
  89                                 if (($textlen + $img_end) > $maxlen ) {
  90                                         if ($textlen < $maxlen) {
  91                                                 logger('limit_body_size: the limit happens before the end of a non-embedded image', LOGGER_DEBUG);
  92                                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
  93                                                 $textlen = $maxlen;
  94                                         }
  95                                 } else {
  96                                         $new_body = $new_body . substr($orig_body, 0, $img_end);
  97                                         $textlen += $img_end;
  98                                 }
  99                         }
 100                         $orig_body = substr($orig_body, $img_end);
 101
 102                         if ($orig_body === false) {
 103                                 // in case the body ends on a closing image tag
 104                                 $orig_body = '';
 105                         }
 106
 107                         $img_start = strpos($orig_body, '[img');
 108                         $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
 109                         $img_end = ($img_start !== false ? strpos(substr($orig_body, $img_start), '[/img]') : false);
 110                 }
 111
 112                 if (($textlen + strlen($orig_body)) > $maxlen) {
 113                         if ($textlen < $maxlen) {
 114                                 logger('limit_body_size: the limit happens after the end of the last image', LOGGER_DEBUG);
 115                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
 116                                 $textlen = $maxlen;
 117                         }
 118                 } else {
 119                         logger('limit_body_size: the text size with embedded images extracted did not violate the limit', LOGGER_DEBUG);
 120                         $new_body = $new_body . $orig_body;
 121                         $textlen += strlen($orig_body);
 122                 }
 123
 124                 return $new_body;
 125         } else {
 126                 return $body;
 127         }
 128 }}
 129
 130 function title_is_body($title, $body) {
 131
 132         $title = strip_tags($title);
 133         $title = trim($title);
 134         $title = html_entity_decode($title, ENT_QUOTES, 'UTF-8');
 135         $title = str_replace(array("\n", "\r", "\t", " "), array("", "", "", ""), $title);
 136
 137         $body = strip_tags($body);
 138         $body = trim($body);
 139         $body = html_entity_decode($body, ENT_QUOTES, 'UTF-8');
 140         $body = str_replace(array("\n", "\r", "\t", " "), array("", "", "", ""), $body);
 141
 142         if (strlen($title) < strlen($body)) {
 143                 $body = substr($body, 0, strlen($title));
 144         }
 145
 146         if (($title != $body) and (substr($title, -3) == "...")) {
 147                 $pos = strrpos($title, "...");
 148                 if ($pos > 0) {
 149                         $title = substr($title, 0, $pos);
 150                         $body = substr($body, 0, $pos);
 151                 }
 152         }
 153
 154         return ($title == $body);
 155 }
 156
 157 function add_page_info_data($data) {
 158         call_hooks('page_info_data', $data);
 159
 160         // It maybe is a rich content, but if it does have everything that a link has,
 161         // then treat it that way
 162         if (($data["type"] == "rich") AND is_string($data["title"]) AND
 163                 is_string($data["text"]) AND (sizeof($data["images"]) > 0)) {
 164                 $data["type"] = "link";
 165         }
 166
 167         if ((($data["type"] != "link") AND ($data["type"] != "video") AND ($data["type"] != "photo")) OR ($data["title"] == $data["url"])) {
 168                 return "";
 169         }
 170
 171         if ($no_photos AND ($data["type"] == "photo")) {
 172                 return "";
 173         }
 174
 175         if (sizeof($data["images"]) > 0) {
 176                 $preview = $data["images"][0];
 177         } else {
 178                 $preview = "";
 179         }
 180
 181         // Escape some bad characters
 182         $data["url"] = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["url"], ENT_QUOTES, 'UTF-8', false));
 183         $data["title"] = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["title"], ENT_QUOTES, 'UTF-8', false));
 184
 185         $text = "[attachment type='".$data["type"]."'";
 186
 187         if ($data["text"] == "") {
 188                 $data["text"] = $data["title"];
 189         }
 190
 191         if ($data["text"] == "") {
 192                 $data["text"] = $data["url"];
 193         }
 194
 195         if ($data["url"] != "") {
 196                 $text .= " url='".$data["url"]."'";
 197         }
 198
 199         if ($data["title"] != "") {
 200                 $text .= " title='".$data["title"]."'";
 201         }
 202
 203         if (sizeof($data["images"]) > 0) {
 204                 $preview = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["images"][0]["src"], ENT_QUOTES, 'UTF-8', false));
 205                 // if the preview picture is larger than 500 pixels then show it in a larger mode
 206                 // But only, if the picture isn't higher than large (To prevent huge posts)
 207                 if (($data["images"][0]["width"] >= 500) AND ($data["images"][0]["width"] >= $data["images"][0]["height"])) {
 208                         $text .= " image='".$preview."'";
 209                 } else {
 210                         $text .= " preview='".$preview."'";
 211                 }
 212         }
 213
 214         $text .= "]".$data["text"]."[/attachment]";
 215
 216         $hashtags = "";
 217         if (isset($data["keywords"]) AND count($data["keywords"])) {
 218                 $hashtags = "\n";
 219                 foreach ($data["keywords"] AS $keyword) {
 220                         /// @todo make a positive list of allowed characters
 221                         $hashtag = str_replace(array(" ", "+", "/", ".", "#", "'", "’", "`", "(", ")", "„", "“"),
 222                                                 array("", "", "", "", "", "", "", "", "", "", "", ""), $keyword);
 223                         $hashtags .= "#[url=" . App::get_baseurl() . "/search?tag=" . rawurlencode($hashtag) . "]" . $hashtag . "[/url] ";
 224                 }
 225         }
 226
 227         return "\n".$text.$hashtags;
 228 }
 229
 230 function query_page_info($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
 231
 232         $data = ParseUrl::getSiteinfoCached($url, true);
 233
 234         if ($photo != "") {
 235                 $data["images"][0]["src"] = $photo;
 236         }
 237
 238         logger('fetch page info for ' . $url . ' ' . print_r($data, true), LOGGER_DEBUG);
 239
 240         if (!$keywords AND isset($data["keywords"])) {
 241                 unset($data["keywords"]);
 242         }
 243
 244         if (($keyword_blacklist != "") AND isset($data["keywords"])) {
 245                 $list = explode(", ", $keyword_blacklist);
 246                 foreach ($list AS $keyword) {
 247                         $keyword = trim($keyword);
 248                         $index = array_search($keyword, $data["keywords"]);
 249                         if ($index !== false) {
 250                                 unset($data["keywords"][$index]);
 251                         }
 252                 }
 253         }
 254
 255         return $data;
 256 }
 257
 258 function add_page_keywords($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
 259         $data = query_page_info($url, $no_photos, $photo, $keywords, $keyword_blacklist);
 260
 261         $tags = "";
 262         if (isset($data["keywords"]) AND count($data["keywords"])) {
 263                 foreach ($data["keywords"] AS $keyword) {
 264                         $hashtag = str_replace(array(" ", "+", "/", ".", "#", "'"),
 265                                 array("", "", "", "", "", ""), $keyword);
 266
 267                         if ($tags != "") {
 268                                 $tags .= ", ";
 269                         }
 270
 271                         $tags .= "#[url=" . App::get_baseurl() . "/search?tag=" . rawurlencode($hashtag) . "]" . $hashtag . "[/url]";
 272                 }
 273         }
 274
 275         return $tags;
 276 }
 277
 278 function add_page_info($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
 279         $data = query_page_info($url, $no_photos, $photo, $keywords, $keyword_blacklist);
 280
 281         $text = add_page_info_data($data);
 282
 283         return $text;
 284 }
 285
 286 function add_page_info_to_body($body, $texturl = false, $no_photos = false) {
 287
 288         logger('add_page_info_to_body: fetch page info for body ' . $body, LOGGER_DEBUG);
 289
 290         $URLSearchString = "^\[\]";
 291
 292         // Fix for Mastodon where the mentions are in a different format
 293         $body = preg_replace("/\[url\=([$URLSearchString]*)\]([#!@])(.*?)\[\/url\]/ism",
 294                 '$2[url=$1]$3[/url]', $body);
 295
 296         // Adding these spaces is a quick hack due to my problems with regular expressions :)
 297         preg_match("/[^!#@]\[url\]([$URLSearchString]*)\[\/url\]/ism", " " . $body, $matches);
 298
 299         if (!$matches) {
 300                 preg_match("/[^!#@]\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism", " " . $body, $matches);
 301         }
 302
 303         // Convert urls without bbcode elements
 304         if (!$matches AND $texturl) {
 305                 preg_match("/([^\]\='".'"'."]|^)(https?\:\/\/[a-zA-Z0-9\:\/\-\?\&\;\.\=\_\~\#\%\$\!\+\,]+)/ism", " ".$body, $matches);
 306
 307                 // Yeah, a hack. I really hate regular expressions :)
 308                 if ($matches) {
 309                         $matches[1] = $matches[2];
 310                 }
 311         }
 312
 313         if ($matches) {
 314                 $footer = add_page_info($matches[1], $no_photos);
 315         }
 316
 317         // Remove the link from the body if the link is attached at the end of the post
 318         if (isset($footer) AND (trim($footer) != "") AND (strpos($footer, $matches[1]))) {
 319                 $removedlink = trim(str_replace($matches[1], "", $body));
 320                 if (($removedlink == "") OR strstr($body, $removedlink)) {
 321                         $body = $removedlink;
 322                 }
 323
 324                 $url = str_replace(array('/', '.'), array('\/', '\.'), $matches[1]);
 325                 $removedlink = preg_replace("/\[url\=" . $url . "\](.*?)\[\/url\]/ism", '', $body);
 326                 if (($removedlink == "") OR strstr($body, $removedlink)) {
 327                         $body = $removedlink;
 328                 }
 329         }
 330
 331         // Add the page information to the bottom
 332         if (isset($footer) AND (trim($footer) != "")) {
 333                 $body .= $footer;
 334         }
 335
 336         return $body;
 337 }
 338
 339 /**
 340  * Adds a "lang" specification in a "postopts" element of given $arr,
 341  * if possible and not already present.
 342  * Expects "body" element to exist in $arr.
 343  *
 344  * @todo Add a parameter to request forcing override
 345  */
 346 function item_add_language_opt(&$arr) {
 347
 348         if (version_compare(PHP_VERSION, '5.3.0', '<')) {
 349                  // LanguageDetect.php not available ?
 350                 return;
 351         }
 352
 353         if (x($arr, 'postopts') ) {
 354                 if (strstr($arr['postopts'], 'lang=') ) {
 355                         // do not override
 356                         /// @TODO Add parameter to request overriding
 357                         return;
 358                 }
 359                 $postopts = $arr['postopts'];
 360         } else {
 361                 $postopts = "";
 362         }
 363
 364         require_once('library/langdet/Text/LanguageDetect.php');
 365
 366         $naked_body = preg_replace('/\[(.+?)\]/','', $arr['body']);
 367         $l = new Text_LanguageDetect();
 368         //$lng = $l->detectConfidence($naked_body);
 369         //$arr['postopts'] = (($lng['language']) ? 'lang=' . $lng['language'] . ';' . $lng['confidence'] : '');
 370         $lng = $l->detect($naked_body, 3);
 371
 372         if (sizeof($lng) > 0) {
 373                 if ($postopts != "") $postopts .= '&'; // arbitrary separator, to be reviewed
 374                 $postopts .= 'lang=';
 375                 $sep = "";
 376                 foreach ($lng as $language => $score) {
 377                         $postopts .= $sep . $language . ";" . $score;
 378                         $sep = ':';
 379                 }
 380                 $arr['postopts'] = $postopts;
 381         }
 382 }
 383
 384 /**
 385  * @brief Creates an unique guid out of a given uri
 386  *
 387  * @param string $uri uri of an item entry
 388  * @param string $host (Optional) hostname for the GUID prefix
 389  * @return string unique guid
 390  */
 391 function uri_to_guid($uri, $host = "") {
 392
 393         // Our regular guid routine is using this kind of prefix as well
 394         // We have to avoid that different routines could accidentally create the same value
 395         $parsed = parse_url($uri);
 396
 397         if ($host == "") {
 398                 $host = $parsed["host"];
 399         }
 400
 401         $guid_prefix = hash("crc32", $host);
 402
 403         // Remove the scheme to make sure that "https" and "http" doesn't make a difference
 404         unset($parsed["scheme"]);
 405
 406         $host_id = implode("/", $parsed);
 407
 408         // We could use any hash algorithm since it isn't a security issue
 409         $host_hash = hash("ripemd128", $host_id);
 410
 411         return $guid_prefix.$host_hash;
 412 }
 413
 414 /**
 415  * @brief Store the conversation data
 416  *
 417  * @param array $arr Item array with conversation data
 418  * @return array Item array with removed conversation data
 419  */
 420 function store_conversation($arr) {
 421         if (in_array($arr['network'], array(NETWORK_DFRN, NETWORK_DIASPORA, NETWORK_OSTATUS))) {
 422                 $conversation = array('item-uri' => $arr['uri'], 'received' => dbm::date());
 423
 424                 if (isset($arr['parent-uri']) AND ($arr['parent-uri'] != $arr['uri'])) {
 425                         $conversation['reply-to-uri'] = $arr['parent-uri'];
 426                 }
 427                 if (isset($arr['thr-parent']) AND ($arr['thr-parent'] != $arr['uri'])) {
 428                         $conversation['reply-to-uri'] = $arr['thr-parent'];
 429                 }
 430
 431                 if (isset($arr['conversation-uri'])) {
 432                         $conversation['conversation-uri'] = $arr['conversation-uri'];
 433                 }
 434
 435                 if (isset($arr['conversation-href'])) {
 436                         $conversation['conversation-href'] = $arr['conversation-href'];
 437                 }
 438
 439                 if (isset($arr['protocol'])) {
 440                         $conversation['protocol'] = $arr['protocol'];
 441                 }
 442
 443                 if (isset($arr['source'])) {
 444                         $conversation['source'] = $arr['source'];
 445                 }
 446
 447                 $old_conv = dba::fetch_first("SELECT `item-uri`, `reply-to-uri`, `conversation-uri`, `conversation-href`, `protocol`, `source`
 448                                 FROM `conversation` WHERE `item-uri` = ?", $conversation['item-uri']);
 449                 if (dbm::is_result($old_conv)) {
 450                         // Don't update when only the source has changed.
 451                         // Only do this when there had been no source before.
 452                         if ($old_conv['source'] != '') {
 453                                 unset($old_conv['source']);
 454                         }
 455                         // Update structure data all the time but the source only when its from a better protocol.
 456                         if (($old_conv['protocol'] < $conversation['protocol']) AND ($old_conv['protocol'] != 0)) {
 457                                 unset($conversation['protocol']);
 458                                 unset($conversation['source']);
 459                         }
 460                         if (!dba::update('conversation', $conversation, array('item-uri' => $conversation['item-uri']), $old_conv)) {
 461                                 logger('Conversation: update for '.$conversation['item-uri'].' from '.$conv['protocol'].' to '.$conversation['protocol'].' failed', LOGGER_DEBUG);
 462                         }
 463                 } else {
 464                         if (!dba::insert('conversation', $conversation)) {
 465                                 logger('Conversation: insert for '.$conversation['item-uri'].' (protocol '.$conversation['protocol'].') failed', LOGGER_DEBUG);
 466                         }
 467                 }
 468         }
 469
 470         unset($arr['conversation-uri']);
 471         unset($arr['conversation-href']);
 472         unset($arr['protocol']);
 473         unset($arr['source']);
 474
 475         return $arr;
 476 }
 477
 478 /// @TODO add type-hint array
 479 function item_store($arr, $force_parent = false, $notify = false, $dontcache = false) {
 480
 481         $a = get_app();
 482
 483         // If it is a posting where users should get notifications, then define it as wall posting
 484         if ($notify) {
 485                 $arr['wall'] = 1;
 486                 $arr['type'] = 'wall';
 487                 $arr['origin'] = 1;
 488                 $arr['last-child'] = 1;
 489                 $arr['network'] = NETWORK_DFRN;
 490                 $arr['protocol'] = PROTOCOL_DFRN;
 491
 492                 // We have to avoid duplicates. So we create the GUID in form of a hash of the plink or uri.
 493                 // In difference to the call to "uri_to_guid" several lines below we add the hash of our own host.
 494                 // This is done because our host is the original creator of the post.
 495                 if (!isset($arr['guid'])) {
 496                         if (isset($arr['plink'])) {
 497                                 $arr['guid'] = uri_to_guid($arr['plink'], $a->get_hostname());
 498                         } elseif (isset($arr['uri'])) {
 499                                 $arr['guid'] = uri_to_guid($arr['uri'], $a->get_hostname());
 500                         }
 501                 }
 502         }
 503
 504         // Store conversation data
 505         $arr = store_conversation($arr);
 506
 507         /*
 508          * If a Diaspora signature structure was passed in, pull it out of the
 509          * item array and set it aside for later storage.
 510          */
 511
 512         $dsprsig = null;
 513         if (x($arr, 'dsprsig')) {
 514                 $encoded_signature = $arr['dsprsig'];
 515                 $dsprsig = json_decode(base64_decode($arr['dsprsig']));
 516                 unset($arr['dsprsig']);
 517         }
 518
 519         // Converting the plink
 520         if ($arr['network'] == NETWORK_OSTATUS) {
 521                 if (isset($arr['plink'])) {
 522                         $arr['plink'] = ostatus::convert_href($arr['plink']);
 523                 } elseif (isset($arr['uri'])) {
 524                         $arr['plink'] = ostatus::convert_href($arr['uri']);
 525                 }
 526         }
 527
 528         if (x($arr, 'gravity')) {
 529                 $arr['gravity'] = intval($arr['gravity']);
 530         } elseif ($arr['parent-uri'] === $arr['uri']) {
 531                 $arr['gravity'] = 0;
 532         } elseif (activity_match($arr['verb'],ACTIVITY_POST)) {
 533                 $arr['gravity'] = 6;
 534         } else {
 535                 $arr['gravity'] = 6;   // extensible catchall
 536         }
 537
 538         if (! x($arr, 'type')) {
 539                 $arr['type']      = 'remote';
 540         }
 541
 542         // check for create  date and expire time
 543         $uid = intval($arr['uid']);
 544         $r = q("SELECT expire FROM user WHERE uid = %d", intval($uid));
 545         if (dbm::is_result($r)) {
 546                 $expire_interval = $r[0]['expire'];
 547                 if ($expire_interval>0) {
 548                         $expire_date =  new DateTime( '- '.$expire_interval.' days', new DateTimeZone('UTC'));
 549                         $created_date = new DateTime($arr['created'], new DateTimeZone('UTC'));
 550                         if ($created_date < $expire_date) {
 551                                 logger('item-store: item created ('.$arr['created'].') before expiration time ('.$expire_date->format(DateTime::W3C).'). ignored. ' . print_r($arr,true), LOGGER_DEBUG);
 552                                 return 0;
 553                         }
 554                 }
 555         }
 556
 557         /*
 558          * Do we already have this item?
 559          * We have to check several networks since Friendica posts could be repeated
 560          * via OStatus (maybe Diasporsa as well)
 561          */
 562         if (in_array(trim($arr['network']), array(NETWORK_DIASPORA, NETWORK_DFRN, NETWORK_OSTATUS, ""))) {
 563                 $r = q("SELECT `id`, `network` FROM `item` WHERE `uri` = '%s' AND `uid` = %d AND `network` IN ('%s', '%s', '%s')  LIMIT 1",
 564                                 dbesc(trim($arr['uri'])),
 565                                 intval($uid),
 566                                 dbesc(NETWORK_DIASPORA),
 567                                 dbesc(NETWORK_DFRN),
 568                                 dbesc(NETWORK_OSTATUS)
 569                         );
 570                 if (dbm::is_result($r)) {
 571                         // We only log the entries with a different user id than 0. Otherwise we would have too many false positives
 572                         if ($uid != 0) {
 573                                 logger("Item with uri ".$arr['uri']." already existed for user ".$uid." with id ".$r[0]["id"]." target network ".$r[0]["network"]." - new network: ".$arr['network']);
 574                         }
 575
 576                         return $r[0]["id"];
 577                 }
 578         }
 579
 580         /// @TODO old-lost code?
 581         // Shouldn't happen but we want to make absolutely sure it doesn't leak from a plugin.
 582         // Deactivated, since the bbcode parser can handle with it - and it destroys posts with some smileys that contain "<"
 583         //if ((strpos($arr['body'],'<') !== false) || (strpos($arr['body'],'>') !== false))
 584         //      $arr['body'] = strip_tags($arr['body']);
 585
 586         item_add_language_opt($arr);
 587
 588         if ($notify) {
 589                 $guid_prefix = "";
 590         } elseif ((trim($arr['guid']) == "") AND (trim($arr['plink']) != "")) {
 591                 $arr['guid'] = uri_to_guid($arr['plink']);
 592         } elseif ((trim($arr['guid']) == "") AND (trim($arr['uri']) != "")) {
 593                 $arr['guid'] = uri_to_guid($arr['uri']);
 594         } else {
 595                 $parsed = parse_url($arr["author-link"]);
 596                 $guid_prefix = hash("crc32", $parsed["host"]);
 597         }
 598
 599         $arr['wall']          = ((x($arr, 'wall'))          ? intval($arr['wall'])                : 0);
 600         $arr['guid']          = ((x($arr, 'guid'))          ? notags(trim($arr['guid']))          : get_guid(32, $guid_prefix));
 601         $arr['uri']           = ((x($arr, 'uri'))           ? notags(trim($arr['uri']))           : item_new_uri($a->get_hostname(), $uid, $arr['guid']));
 602         $arr['extid']         = ((x($arr, 'extid'))         ? notags(trim($arr['extid']))         : '');
 603         $arr['author-name']   = ((x($arr, 'author-name'))   ? trim($arr['author-name'])   : '');
 604         $arr['author-link']   = ((x($arr, 'author-link'))   ? notags(trim($arr['author-link']))   : '');
 605         $arr['author-avatar'] = ((x($arr, 'author-avatar')) ? notags(trim($arr['author-avatar'])) : '');
 606         $arr['owner-name']    = ((x($arr, 'owner-name'))    ? trim($arr['owner-name'])    : '');
 607         $arr['owner-link']    = ((x($arr, 'owner-link'))    ? notags(trim($arr['owner-link']))    : '');
 608         $arr['owner-avatar']  = ((x($arr, 'owner-avatar'))  ? notags(trim($arr['owner-avatar']))  : '');
 609         $arr['created']       = ((x($arr, 'created') !== false) ? datetime_convert('UTC','UTC', $arr['created']) : datetime_convert());
 610         $arr['edited']        = ((x($arr, 'edited')  !== false) ? datetime_convert('UTC','UTC', $arr['edited'])  : datetime_convert());
 611         $arr['commented']     = ((x($arr, 'commented')  !== false) ? datetime_convert('UTC','UTC', $arr['commented'])  : datetime_convert());
 612         $arr['received']      = ((x($arr, 'received')  !== false) ? datetime_convert('UTC','UTC', $arr['received'])  : datetime_convert());
 613         $arr['changed']       = ((x($arr, 'changed')  !== false) ? datetime_convert('UTC','UTC', $arr['changed'])  : datetime_convert());
 614         $arr['title']         = ((x($arr, 'title'))         ? trim($arr['title'])         : '');
 615         $arr['location']      = ((x($arr, 'location'))      ? trim($arr['location'])      : '');
 616         $arr['coord']         = ((x($arr, 'coord'))         ? notags(trim($arr['coord']))         : '');
 617         $arr['last-child']    = ((x($arr, 'last-child'))    ? intval($arr['last-child'])          : 0 );
 618         $arr['visible']       = ((x($arr, 'visible') !== false) ? intval($arr['visible'])         : 1 );
 619         $arr['deleted']       = 0;
 620         $arr['parent-uri']    = ((x($arr, 'parent-uri'))    ? notags(trim($arr['parent-uri']))    : $arr['uri']);
 621         $arr['verb']          = ((x($arr, 'verb'))          ? notags(trim($arr['verb']))          : '');
 622         $arr['object-type']   = ((x($arr, 'object-type'))   ? notags(trim($arr['object-type']))   : '');
 623         $arr['object']        = ((x($arr, 'object'))        ? trim($arr['object'])                : '');
 624         $arr['target-type']   = ((x($arr, 'target-type'))   ? notags(trim($arr['target-type']))   : '');
 625         $arr['target']        = ((x($arr, 'target'))        ? trim($arr['target'])                : '');
 626         $arr['plink']         = ((x($arr, 'plink'))         ? notags(trim($arr['plink']))         : '');
 627         $arr['allow_cid']     = ((x($arr, 'allow_cid'))     ? trim($arr['allow_cid'])             : '');
 628         $arr['allow_gid']     = ((x($arr, 'allow_gid'))     ? trim($arr['allow_gid'])             : '');
 629         $arr['deny_cid']      = ((x($arr, 'deny_cid'))      ? trim($arr['deny_cid'])              : '');
 630         $arr['deny_gid']      = ((x($arr, 'deny_gid'))      ? trim($arr['deny_gid'])              : '');
 631         $arr['private']       = ((x($arr, 'private'))       ? intval($arr['private'])             : 0 );
 632         $arr['bookmark']      = ((x($arr, 'bookmark'))      ? intval($arr['bookmark'])            : 0 );
 633         $arr['body']          = ((x($arr, 'body'))          ? trim($arr['body'])                  : '');
 634         $arr['tag']           = ((x($arr, 'tag'))           ? notags(trim($arr['tag']))           : '');
 635         $arr['attach']        = ((x($arr, 'attach'))        ? notags(trim($arr['attach']))        : '');
 636         $arr['app']           = ((x($arr, 'app'))           ? notags(trim($arr['app']))           : '');
 637         $arr['origin']        = ((x($arr, 'origin'))        ? intval($arr['origin'])              : 0 );
 638         $arr['network']       = ((x($arr, 'network'))       ? trim($arr['network'])               : '');
 639         $arr['postopts']      = ((x($arr, 'postopts'))      ? trim($arr['postopts'])              : '');
 640         $arr['resource-id']   = ((x($arr, 'resource-id'))   ? trim($arr['resource-id'])           : '');
 641         $arr['event-id']      = ((x($arr, 'event-id'))      ? intval($arr['event-id'])            : 0 );
 642         $arr['inform']        = ((x($arr, 'inform'))        ? trim($arr['inform'])                : '');
 643         $arr['file']          = ((x($arr, 'file'))          ? trim($arr['file'])                  : '');
 644
 645         // Items cannot be stored before they happen ...
 646         if ($arr['created'] > datetime_convert()) {
 647                 $arr['created'] = datetime_convert();
 648         }
 649
 650         // We haven't invented time travel by now.
 651         if ($arr['edited'] > datetime_convert()) {
 652                 $arr['edited'] = datetime_convert();
 653         }
 654
 655         if (($arr['author-link'] == "") AND ($arr['owner-link'] == "")) {
 656                 logger("Both author-link and owner-link are empty. Called by: " . App::callstack(), LOGGER_DEBUG);
 657         }
 658
 659         if ($arr['plink'] == "") {
 660                 $arr['plink'] = App::get_baseurl() . '/display/' . urlencode($arr['guid']);
 661         }
 662
 663         if ($arr['network'] == "") {
 664                 $r = q("SELECT `network` FROM `contact` WHERE `network` IN ('%s', '%s', '%s') AND `nurl` = '%s' AND `uid` = %d LIMIT 1",
 665                         dbesc(NETWORK_DFRN), dbesc(NETWORK_DIASPORA), dbesc(NETWORK_OSTATUS),
 666                         dbesc(normalise_link($arr['author-link'])),
 667                         intval($arr['uid'])
 668                 );
 669
 670                 if (!dbm::is_result($r))
 671                         $r = q("SELECT `network` FROM `gcontact` WHERE `network` IN ('%s', '%s', '%s') AND `nurl` = '%s' LIMIT 1",
 672                                 dbesc(NETWORK_DFRN), dbesc(NETWORK_DIASPORA), dbesc(NETWORK_OSTATUS),
 673                                 dbesc(normalise_link($arr['author-link']))
 674                         );
 675
 676                 if (!dbm::is_result($r)) {
 677                         $r = q("SELECT `network` FROM `contact` WHERE `id` = %d AND `uid` = %d LIMIT 1",
 678                                 intval($arr['contact-id']),
 679                                 intval($arr['uid'])
 680                         );
 681                 }
 682
 683                 if (dbm::is_result($r)) {
 684                         $arr['network'] = $r[0]["network"];
 685                 }
 686
 687                 // Fallback to friendica (why is it empty in some cases?)
 688                 if ($arr['network'] == "") {
 689                         $arr['network'] = NETWORK_DFRN;
 690                 }
 691
 692                 logger("item_store: Set network to " . $arr["network"] . " for " . $arr["uri"], LOGGER_DEBUG);
 693         }
 694
 695         // The contact-id should be set before "item_store" was called - but there seems to be some issues
 696         if ($arr["contact-id"] == 0) {
 697                 /*
 698                  * First we are looking for a suitable contact that matches with the author of the post
 699                  * This is done only for comments (See below explanation at "gcontact-id")
 700                  */
 701                 if ($arr['parent-uri'] != $arr['uri']) {
 702                         $arr["contact-id"] = get_contact($arr['author-link'], $uid);
 703                 }
 704
 705                 // If not present then maybe the owner was found
 706                 if ($arr["contact-id"] == 0) {
 707                         $arr["contact-id"] = get_contact($arr['owner-link'], $uid);
 708                 }
 709
 710                 // Still missing? Then use the "self" contact of the current user
 711                 if ($arr["contact-id"] == 0) {
 712                         $r = q("SELECT `id` FROM `contact` WHERE `self` AND `uid` = %d", intval($uid));
 713
 714                         if (dbm::is_result($r)) {
 715                                 $arr["contact-id"] = $r[0]["id"];
 716                         }
 717                 }
 718
 719                 logger("Contact-id was missing for post ".$arr["guid"]." from user id ".$uid." - now set to ".$arr["contact-id"], LOGGER_DEBUG);
 720         }
 721
 722         if ($arr["gcontact-id"] == 0) {
 723                 /*
 724                  * The gcontact should mostly behave like the contact. But is is supposed to be global for the system.
 725                  * This means that wall posts, repeated posts, etc. should have the gcontact id of the owner.
 726                  * On comments the author is the better choice.
 727                  */
 728                 if ($arr['parent-uri'] === $arr['uri']) {
 729                         $arr["gcontact-id"] = get_gcontact_id(array("url" => $arr['owner-link'], "network" => $arr['network'],
 730                                                                  "photo" => $arr['owner-avatar'], "name" => $arr['owner-name']));
 731                 } else {
 732                         $arr["gcontact-id"] = get_gcontact_id(array("url" => $arr['author-link'], "network" => $arr['network'],
 733                                                                  "photo" => $arr['author-avatar'], "name" => $arr['author-name']));
 734                 }
 735         }
 736
 737         if ($arr["author-id"] == 0) {
 738                 $arr["author-id"] = get_contact($arr["author-link"], 0);
 739         }
 740
 741         if ($arr["owner-id"] == 0) {
 742                 $arr["owner-id"] = get_contact($arr["owner-link"], 0);
 743         }
 744
 745         if ($arr['guid'] != "") {
 746                 // Checking if there is already an item with the same guid
 747                 logger('checking for an item for user '.$arr['uid'].' on network '.$arr['network'].' with the guid '.$arr['guid'], LOGGER_DEBUG);
 748                 $r = q("SELECT `guid` FROM `item` WHERE `guid` = '%s' AND `network` = '%s' AND `uid` = '%d' LIMIT 1",
 749                         dbesc($arr['guid']), dbesc($arr['network']), intval($arr['uid']));
 750
 751                 if (dbm::is_result($r)) {
 752                         logger('found item with guid '.$arr['guid'].' for user '.$arr['uid'].' on network '.$arr['network'], LOGGER_DEBUG);
 753                         return 0;
 754                 }
 755         }
 756
 757         // Check for hashtags in the body and repair or add hashtag links
 758         item_body_set_hashtags($arr);
 759
 760         $arr['thr-parent'] = $arr['parent-uri'];
 761
 762         if ($arr['parent-uri'] === $arr['uri']) {
 763                 $parent_id = 0;
 764                 $parent_deleted = 0;
 765                 $allow_cid = $arr['allow_cid'];
 766                 $allow_gid = $arr['allow_gid'];
 767                 $deny_cid  = $arr['deny_cid'];
 768                 $deny_gid  = $arr['deny_gid'];
 769                 $notify_type = 'wall-new';
 770         } else {
 771
 772                 // find the parent and snarf the item id and ACLs
 773                 // and anything else we need to inherit
 774
 775                 $r = q("SELECT * FROM `item` WHERE `uri` = '%s' AND `uid` = %d ORDER BY `id` ASC LIMIT 1",
 776                         dbesc($arr['parent-uri']),
 777                         intval($arr['uid'])
 778                 );
 779
 780                 if (dbm::is_result($r)) {
 781
 782                         // is the new message multi-level threaded?
 783                         // even though we don't support it now, preserve the info
 784                         // and re-attach to the conversation parent.
 785
 786                         if ($r[0]['uri'] != $r[0]['parent-uri']) {
 787                                 $arr['parent-uri'] = $r[0]['parent-uri'];
 788                                 $z = q("SELECT * FROM `item` WHERE `uri` = '%s' AND `parent-uri` = '%s' AND `uid` = %d
 789                                         ORDER BY `id` ASC LIMIT 1",
 790                                         dbesc($r[0]['parent-uri']),
 791                                         dbesc($r[0]['parent-uri']),
 792                                         intval($arr['uid'])
 793                                 );
 794
 795                                 if (dbm::is_result($z)) {
 796                                         $r = $z;
 797                                 }
 798                         }
 799
 800                         $parent_id      = $r[0]['id'];
 801                         $parent_deleted = $r[0]['deleted'];
 802                         $allow_cid      = $r[0]['allow_cid'];
 803                         $allow_gid      = $r[0]['allow_gid'];
 804                         $deny_cid       = $r[0]['deny_cid'];
 805                         $deny_gid       = $r[0]['deny_gid'];
 806                         $arr['wall']    = $r[0]['wall'];
 807                         $notify_type    = 'comment-new';
 808
 809                         /*
 810                          * If the parent is private, force privacy for the entire conversation
 811                          * This differs from the above settings as it subtly allows comments from
 812                          * email correspondents to be private even if the overall thread is not.
 813                          */
 814                         if ($r[0]['private']) {
 815                                 $arr['private'] = $r[0]['private'];
 816                         }
 817
 818                         /*
 819                          * Edge case. We host a public forum that was originally posted to privately.
 820                          * The original author commented, but as this is a comment, the permissions
 821                          * weren't fixed up so it will still show the comment as private unless we fix it here.
 822                          */
 823                         if ((intval($r[0]['forum_mode']) == 1) && (! $r[0]['private'])) {
 824                                 $arr['private'] = 0;
 825                         }
 826
 827                         // If its a post from myself then tag the thread as "mention"
 828                         logger("item_store: Checking if parent ".$parent_id." has to be tagged as mention for user ".$arr['uid'], LOGGER_DEBUG);
 829                         $u = q("SELECT `nickname` FROM `user` WHERE `uid` = %d", intval($arr['uid']));
 830                         if (dbm::is_result($u)) {
 831                                 $a = get_app();
 832                                 $self = normalise_link(App::get_baseurl() . '/profile/' . $u[0]['nickname']);
 833                                 logger("item_store: 'myself' is ".$self." for parent ".$parent_id." checking against ".$arr['author-link']." and ".$arr['owner-link'], LOGGER_DEBUG);
 834                                 if ((normalise_link($arr['author-link']) == $self) OR (normalise_link($arr['owner-link']) == $self)) {
 835                                         q("UPDATE `thread` SET `mention` = 1 WHERE `iid` = %d", intval($parent_id));
 836                                         logger("item_store: tagged thread ".$parent_id." as mention for user ".$self, LOGGER_DEBUG);
 837                                 }
 838                         }
 839                 } else {
 840                         /*
 841                          * Allow one to see reply tweets from status.net even when
 842                          * we don't have or can't see the original post.
 843                          */
 844                         if ($force_parent) {
 845                                 logger('item_store: $force_parent=true, reply converted to top-level post.');
 846                                 $parent_id = 0;
 847                                 $arr['parent-uri'] = $arr['uri'];
 848                                 $arr['gravity'] = 0;
 849                         } else {
 850                                 logger('item_store: item parent '.$arr['parent-uri'].' for '.$arr['uid'].' was not found - ignoring item');
 851                                 return 0;
 852                         }
 853
 854                         $parent_deleted = 0;
 855                 }
 856         }
 857
 858         $r = q("SELECT `id` FROM `item` WHERE `uri` = '%s' AND `network` IN ('%s', '%s') AND `uid` = %d LIMIT 1",
 859                 dbesc($arr['uri']),
 860                 dbesc($arr['network']),
 861                 dbesc(NETWORK_DFRN),
 862                 intval($arr['uid'])
 863         );
 864         if (dbm::is_result($r)) {
 865                 logger('duplicated item with the same uri found. '.print_r($arr,true));
 866                 return 0;
 867         }
 868
 869         // On Friendica and Diaspora the GUID is unique
 870         if (in_array($arr['network'], array(NETWORK_DFRN, NETWORK_DIASPORA))) {
 871                 $r = q("SELECT `id` FROM `item` WHERE `guid` = '%s' AND `uid` = %d LIMIT 1",
 872                         dbesc($arr['guid']),
 873                         intval($arr['uid'])
 874                 );
 875                 if (dbm::is_result($r)) {
 876                         logger('duplicated item with the same guid found. '.print_r($arr,true));
 877                         return 0;
 878                 }
 879         } else {
 880                 // Check for an existing post with the same content. There seems to be a problem with OStatus.
 881                 $r = q("SELECT `id` FROM `item` WHERE `body` = '%s' AND `network` = '%s' AND `created` = '%s' AND `contact-id` = %d AND `uid` = %d LIMIT 1",
 882                         dbesc($arr['body']),
 883                         dbesc($arr['network']),
 884                         dbesc($arr['created']),
 885                         intval($arr['contact-id']),
 886                         intval($arr['uid'])
 887                 );
 888                 if (dbm::is_result($r)) {
 889                         logger('duplicated item with the same body found. '.print_r($arr,true));
 890                         return 0;
 891                 }
 892         }
 893
 894         // Is this item available in the global items (with uid=0)?
 895         if ($arr["uid"] == 0) {
 896                 $arr["global"] = true;
 897
 898                 // Set the global flag on all items if this was a global item entry
 899                 q("UPDATE `item` SET `global` = 1 WHERE `uri` = '%s'", dbesc($arr["uri"]));
 900         } else {
 901                 $isglobal = q("SELECT `global` FROM `item` WHERE `uid` = 0 AND `uri` = '%s'", dbesc($arr["uri"]));
 902
 903                 $arr["global"] = (dbm::is_result($isglobal) && count($isglobal) > 0);
 904         }
 905
 906         // ACL settings
 907         if (strlen($allow_cid) || strlen($allow_gid) || strlen($deny_cid) || strlen($deny_gid)) {
 908                 $private = 1;
 909         } else {
 910                 $private = $arr['private'];
 911         }
 912
 913         $arr["allow_cid"] = $allow_cid;
 914         $arr["allow_gid"] = $allow_gid;
 915         $arr["deny_cid"] = $deny_cid;
 916         $arr["deny_gid"] = $deny_gid;
 917         $arr["private"] = $private;
 918         $arr["deleted"] = $parent_deleted;
 919
 920         // Fill the cache field
 921         put_item_in_cache($arr);
 922
 923         if ($notify) {
 924                 call_hooks('post_local', $arr);
 925         } else {
 926                 call_hooks('post_remote', $arr);
 927         }
 928
 929         if (x($arr, 'cancel')) {
 930                 logger('item_store: post cancelled by plugin.');
 931                 return 0;
 932         }
 933
 934         /*
 935          * Check for already added items.
 936          * There is a timing issue here that sometimes creates double postings.
 937          * An unique index would help - but the limitations of MySQL (maximum size of index values) prevent this.
 938          */
 939         if ($arr["uid"] == 0) {
 940                 $r = qu("SELECT `id` FROM `item` WHERE `uri` = '%s' AND `uid` = 0 LIMIT 1", dbesc(trim($arr['uri'])));
 941                 if (dbm::is_result($r)) {
 942                         logger('Global item already stored. URI: '.$arr['uri'].' on network '.$arr['network'], LOGGER_DEBUG);
 943                         return 0;
 944                 }
 945         }
 946
 947         // Store the unescaped version
 948         $unescaped = $arr;
 949
 950         dbm::esc_array($arr, true);
 951
 952         logger('item_store: ' . print_r($arr,true), LOGGER_DATA);
 953
 954         dba::transaction();
 955
 956         $r = dbq("INSERT INTO `item` (`"
 957                         . implode("`, `", array_keys($arr))
 958                         . "`) VALUES ("
 959                         . implode(", ", array_values($arr))
 960                         . ")");
 961
 962         // And restore it
 963         $arr = $unescaped;
 964
 965         // When the item was successfully stored we fetch the ID of the item.
 966         if (dbm::is_result($r)) {
 967                 $r = q("SELECT LAST_INSERT_ID() AS `item-id`");
 968                 if (dbm::is_result($r)) {
 969                         $current_post = $r[0]['item-id'];
 970                 } else {
 971                         // This shouldn't happen
 972                         $current_post = 0;
 973                 }
 974         } else {
 975                 // This can happen - for example - if there are locking timeouts.
 976                 dba::rollback();
 977
 978                 // Store the data into a spool file so that we can try again later.
 979
 980                 // At first we restore the Diaspora signature that we removed above.
 981                 if (isset($encoded_signature)) {
 982                         $arr['dsprsig'] = $encoded_signature;
 983                 }
 984
 985                 // Now we store the data in the spool directory
 986                 // We use "microtime" to keep the arrival order and "mt_rand" to avoid duplicates
 987                 $file = 'item-'.round(microtime(true) * 10000).'-'.mt_rand().'.msg';
 988
 989                 $spoolpath = get_spoolpath();
 990                 if ($spoolpath != "") {
 991                         $spool = $spoolpath.'/'.$file;
 992                         file_put_contents($spool, json_encode($arr));
 993                         logger("Item wasn't stored - Item was spooled into file ".$file, LOGGER_DEBUG);
 994                 }
 995                 return 0;
 996         }
 997
 998         if ($current_post == 0) {
 999                 // This is one of these error messages that never should occur.
1000                 logger("couldn't find created item - we better quit now.");
1001                 dba::rollback();
1002                 return 0;
1003         }
1004
1005         // How much entries have we created?
1006         // We wouldn't need this query when we could use an unique index - but MySQL has length problems with them.
1007         $r = q("SELECT COUNT(*) AS `entries` FROM `item` WHERE `uri` = '%s' AND `uid` = %d AND `network` = '%s'",
1008                 dbesc($arr['uri']),
1009                 intval($arr['uid']),
1010                 dbesc($arr['network'])
1011         );
1012
1013         if (!dbm::is_result($r)) {
1014                 // This shouldn't happen, since COUNT always works when the database connection is there.
1015                 logger("We couldn't count the stored entries. Very strange ...");
1016                 dba::rollback();
1017                 return 0;
1018         }
1019
1020         if ($r[0]["entries"] > 1) {
1021                 // There are duplicates. We delete our just created entry.
1022                 logger('Duplicated post occurred. uri = ' . $arr['uri'] . ' uid = ' . $arr['uid']);
1023
1024                 // Yes, we could do a rollback here - but we are having many users with MyISAM.
1025                 q("DELETE FROM `item` WHERE `id` = %d", intval($current_post));
1026                 dba::commit();
1027                 return 0;
1028         } elseif ($r[0]["entries"] == 0) {
1029                 // This really should never happen since we quit earlier if there were problems.
1030                 logger("Something is terribly wrong. We haven't found our created entry.");
1031                 dba::rollback();
1032                 return 0;
1033         }
1034
1035         logger('item_store: created item '.$current_post);
1036         item_set_last_item($arr);
1037
1038         if (!$parent_id || ($arr['parent-uri'] === $arr['uri'])) {
1039                 $parent_id = $current_post;
1040         }
1041
1042         // Set parent id
1043         $r = q("UPDATE `item` SET `parent` = %d WHERE `id` = %d",
1044                 intval($parent_id),
1045                 intval($current_post)
1046         );
1047
1048         $arr['id'] = $current_post;
1049         $arr['parent'] = $parent_id;
1050
1051         // update the commented timestamp on the parent
1052         // Only update "commented" if it is really a comment
1053         if (($arr['verb'] == ACTIVITY_POST) OR !get_config("system", "like_no_comment")) {
1054                 q("UPDATE `item` SET `commented` = '%s', `changed` = '%s' WHERE `id` = %d",
1055                         dbesc(datetime_convert()),
1056                         dbesc(datetime_convert()),
1057                         intval($parent_id)
1058                 );
1059         } else {
1060                 q("UPDATE `item` SET `changed` = '%s' WHERE `id` = %d",
1061                         dbesc(datetime_convert()),
1062                         intval($parent_id)
1063                 );
1064         }
1065
1066         if ($dsprsig) {
1067
1068                 /*
1069                  * Friendica servers lower than 3.4.3-2 had double encoded the signature ...
1070                  * We can check for this condition when we decode and encode the stuff again.
1071                  */
1072                 if (base64_encode(base64_decode(base64_decode($dsprsig->signature))) == base64_decode($dsprsig->signature)) {
1073                         $dsprsig->signature = base64_decode($dsprsig->signature);
1074                         logger("Repaired double encoded signature from handle ".$dsprsig->signer, LOGGER_DEBUG);
1075                 }
1076
1077                 q("INSERT INTO `sign` (`iid`,`signed_text`,`signature`,`signer`) values (%d,'%s','%s','%s') ",
1078                         intval($current_post),
1079                         dbesc($dsprsig->signed_text),
1080                         dbesc($dsprsig->signature),
1081                         dbesc($dsprsig->signer)
1082                 );
1083         }
1084
1085         $deleted = tag_deliver($arr['uid'], $current_post);
1086
1087         /*
1088          * current post can be deleted if is for a community page and no mention are
1089          * in it.
1090          */
1091         if (!$deleted AND !$dontcache) {
1092
1093                 $r = q('SELECT * FROM `item` WHERE `id` = %d', intval($current_post));
1094                 if ((dbm::is_result($r)) && (count($r) == 1)) {
1095                         if ($notify) {
1096                                 call_hooks('post_local_end', $r[0]);
1097                         } else {
1098                                 call_hooks('post_remote_end', $r[0]);
1099                         }
1100                 } else {
1101                         logger('item_store: new item not found in DB, id ' . $current_post);
1102                 }
1103         }
1104
1105         if ($arr['parent-uri'] === $arr['uri']) {
1106                 add_thread($current_post);
1107         } else {
1108                 update_thread($parent_id);
1109         }
1110
1111         dba::commit();
1112
1113         /*
1114          * Due to deadlock issues with the "term" table we are doing these steps after the commit.
1115          * This is not perfect - but a workable solution until we found the reason for the problem.
1116          */
1117         create_tags_from_item($current_post);
1118         create_files_from_item($current_post);
1119
1120         /*
1121          * If this is now the last-child, force all _other_ children of this parent to *not* be last-child
1122          * It is done after the transaction to avoid dead locks.
1123          */
1124         if ($arr['last-child']) {
1125                 $r = q("UPDATE `item` SET `last-child` = 0 WHERE `parent-uri` = '%s' AND `uid` = %d AND `id` != %d",
1126                         dbesc($arr['uri']),
1127                         intval($arr['uid']),
1128                         intval($current_post)
1129                 );
1130         }
1131
1132         if ($arr['parent-uri'] === $arr['uri']) {
1133                 add_shadow_thread($current_post);
1134         } else {
1135                 add_shadow_entry($current_post);
1136         }
1137
1138         check_item_notification($current_post, $uid);
1139
1140         if ($notify) {
1141                 proc_run(PRIORITY_HIGH, "include/notifier.php", $notify_type, $current_post);
1142         }
1143
1144         return $current_post;
1145 }
1146
1147 /**
1148  * @brief Set "success_update" and "last-item" to the date of the last time we heard from this contact
1149  *
1150  * This can be used to filter for inactive contacts.
1151  * Only do this for public postings to avoid privacy problems, since poco data is public.
1152  * Don't set this value if it isn't from the owner (could be an author that we don't know)
1153  *
1154  * @param array $arr Contains the just posted item record
1155  */
1156 function item_set_last_item($arr) {
1157
1158         $update = (!$arr['private'] AND (($arr["author-link"] === $arr["owner-link"]) OR ($arr["parent-uri"] === $arr["uri"])));
1159
1160         // Is it a forum? Then we don't care about the rules from above
1161         if (!$update AND ($arr["network"] == NETWORK_DFRN) AND ($arr["parent-uri"] === $arr["uri"])) {
1162                 $isforum = q("SELECT `forum` FROM `contact` WHERE `id` = %d AND `forum`",
1163                                 intval($arr['contact-id']));
1164                 if (dbm::is_result($isforum)) {
1165                         $update = true;
1166                 }
1167         }
1168
1169         if ($update) {
1170                 q("UPDATE `contact` SET `success_update` = '%s', `last-item` = '%s' WHERE `id` = %d",
1171                         dbesc($arr['received']),
1172                         dbesc($arr['received']),
1173                         intval($arr['contact-id'])
1174                 );
1175         }
1176         // Now do the same for the system wide contacts with uid=0
1177         if (!$arr['private']) {
1178                 q("UPDATE `contact` SET `success_update` = '%s', `last-item` = '%s' WHERE `id` = %d",
1179                         dbesc($arr['received']),
1180                         dbesc($arr['received']),
1181                         intval($arr['owner-id'])
1182                 );
1183
1184                 if ($arr['owner-id'] != $arr['author-id']) {
1185                         q("UPDATE `contact` SET `success_update` = '%s', `last-item` = '%s' WHERE `id` = %d",
1186                                 dbesc($arr['received']),
1187                                 dbesc($arr['received']),
1188                                 intval($arr['author-id'])
1189                         );
1190                 }
1191         }
1192 }
1193
1194 function item_body_set_hashtags(&$item) {
1195
1196         $tags = get_tags($item["body"]);
1197
1198         // No hashtags?
1199         if (!count($tags)) {
1200                 return false;
1201         }
1202
1203         // This sorting is important when there are hashtags that are part of other hashtags
1204         // Otherwise there could be problems with hashtags like #test and #test2
1205         rsort($tags);
1206
1207         $a = get_app();
1208
1209         $URLSearchString = "^\[\]";
1210
1211         /// @TODO old-lost code?
1212         // All hashtags should point to the home server
1213         //$item["body"] = preg_replace("/#\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1214         //              "#[url=".App::get_baseurl()."/search?tag=$2]$2[/url]", $item["body"]);
1215
1216         //$item["tag"] = preg_replace("/#\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1217         //              "#[url=".App::get_baseurl()."/search?tag=$2]$2[/url]", $item["tag"]);
1218
1219         // mask hashtags inside of url, bookmarks and attachments to avoid urls in urls
1220         $item["body"] = preg_replace_callback("/\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1221                 function ($match) {
1222                         return ("[url=" . str_replace("#", "&num;", $match[1]) . "]" . str_replace("#", "&num;", $match[2]) . "[/url]");
1223                 }, $item["body"]);
1224
1225         $item["body"] = preg_replace_callback("/\[bookmark\=([$URLSearchString]*)\](.*?)\[\/bookmark\]/ism",
1226                 function ($match) {
1227                         return ("[bookmark=" . str_replace("#", "&num;", $match[1]) . "]" . str_replace("#", "&num;", $match[2]) . "[/bookmark]");
1228                 }, $item["body"]);
1229
1230         $item["body"] = preg_replace_callback("/\[attachment (.*)\](.*?)\[\/attachment\]/ism",
1231                 function ($match) {
1232                         return ("[attachment " . str_replace("#", "&num;", $match[1]) . "]" . $match[2] . "[/attachment]");
1233                 }, $item["body"]);
1234
1235         // Repair recursive urls
1236         $item["body"] = preg_replace("/&num;\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1237                         "&num;$2", $item["body"]);
1238
1239         foreach ($tags as $tag) {
1240                 if ((strpos($tag, '#') !== 0) || (strpos($tag, '[url='))) {
1241                         continue;
1242                 }
1243
1244                 $basetag = str_replace('_',' ',substr($tag,1));
1245
1246                 $newtag = '#[url=' . App::get_baseurl() . '/search?tag=' . rawurlencode($basetag) . ']' . $basetag . '[/url]';
1247
1248                 $item["body"] = str_replace($tag, $newtag, $item["body"]);
1249
1250                 if (!stristr($item["tag"], "/search?tag=" . $basetag . "]" . $basetag . "[/url]")) {
1251                         if (strlen($item["tag"])) {
1252                                 $item["tag"] = ','.$item["tag"];
1253                         }
1254                         $item["tag"] = $newtag.$item["tag"];
1255                 }
1256         }
1257
1258         // Convert back the masked hashtags
1259         $item["body"] = str_replace("&num;", "#", $item["body"]);
1260 }
1261
1262 function get_item_guid($id) {
1263         $r = q("SELECT `guid` FROM `item` WHERE `id` = %d LIMIT 1", intval($id));
1264         if (dbm::is_result($r)) {
1265                 return $r[0]["guid"];
1266         } else {
1267                 /// @TODO This else-block can be elimited again
1268                 return "";
1269         }
1270 }
1271
1272 function get_item_id($guid, $uid = 0) {
1273
1274         $nick = "";
1275         $id = 0;
1276
1277         if ($uid == 0) {
1278                 $uid == local_user();
1279         }
1280
1281         // Does the given user have this item?
1282         if ($uid) {
1283                 $r = q("SELECT `item`.`id`, `user`.`nickname` FROM `item` INNER JOIN `user` ON `user`.`uid` = `item`.`uid`
1284                         WHERE `item`.`visible` = 1 AND `item`.`deleted` = 0 and `item`.`moderated` = 0
1285                                 AND `item`.`guid` = '%s' AND `item`.`uid` = %d", dbesc($guid), intval($uid));
1286                 if (dbm::is_result($r)) {
1287                         $id = $r[0]["id"];
1288                         $nick = $r[0]["nickname"];
1289                 }
1290         }
1291
1292         // Or is it anywhere on the server?
1293         if ($nick == "") {
1294                 $r = q("SELECT `item`.`id`, `user`.`nickname` FROM `item` INNER JOIN `user` ON `user`.`uid` = `item`.`uid`
1295                         WHERE `item`.`visible` = 1 AND `item`.`deleted` = 0 and `item`.`moderated` = 0
1296                                 AND `item`.`allow_cid` = ''  AND `item`.`allow_gid` = ''
1297                                 AND `item`.`deny_cid`  = '' AND `item`.`deny_gid`  = ''
1298                                 AND `item`.`private` = 0 AND `item`.`wall` = 1
1299                                 AND `item`.`guid` = '%s'", dbesc($guid));
1300                 if (dbm::is_result($r)) {
1301                         $id = $r[0]["id"];
1302                         $nick = $r[0]["nickname"];
1303                 }
1304         }
1305         return array("nick" => $nick, "id" => $id);
1306 }
1307
1308 // return - test
1309 function get_item_contact($item, $contacts) {
1310         if (! count($contacts) || (! is_array($item))) {
1311                 return false;
1312         }
1313         foreach ($contacts as $contact) {
1314                 if ($contact['id'] == $item['contact-id']) {
1315                         return $contact;
1316                         break; // NOTREACHED
1317                 }
1318         }
1319         return false;
1320 }
1321
1322 /**
1323  * look for mention tags and setup a second delivery chain for forum/community posts if appropriate
1324  * @param int $uid
1325  * @param int $item_id
1326  * @return bool true if item was deleted, else false
1327  */
1328 function tag_deliver($uid, $item_id) {
1329
1330         $a = get_app();
1331
1332         $mention = false;
1333
1334         $u = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1335                 intval($uid)
1336         );
1337
1338         if (! dbm::is_result($u)) {
1339                 return;
1340         }
1341
1342         $community_page = (($u[0]['page-flags'] == PAGE_COMMUNITY) ? true : false);
1343         $prvgroup = (($u[0]['page-flags'] == PAGE_PRVGROUP) ? true : false);
1344
1345
1346         $i = q("SELECT * FROM `item` WHERE `id` = %d AND `uid` = %d LIMIT 1",
1347                 intval($item_id),
1348                 intval($uid)
1349         );
1350         if (! dbm::is_result($i)) {
1351                 return;
1352         }
1353
1354         $item = $i[0];
1355
1356         $link = normalise_link(App::get_baseurl() . '/profile/' . $u[0]['nickname']);
1357
1358         /*
1359          * Diaspora uses their own hardwired link URL in @-tags
1360          * instead of the one we supply with webfinger
1361          */
1362         $dlink = normalise_link(App::get_baseurl() . '/u/' . $u[0]['nickname']);
1363
1364         $cnt = preg_match_all('/[\@\!]\[url\=(.*?)\](.*?)\[\/url\]/ism', $item['body'], $matches, PREG_SET_ORDER);
1365         if ($cnt) {
1366                 foreach ($matches as $mtch) {
1367                         if (link_compare($link, $mtch[1]) || link_compare($dlink, $mtch[1])) {
1368                                 $mention = true;
1369                                 logger('tag_deliver: mention found: ' . $mtch[2]);
1370                         }
1371                 }
1372         }
1373
1374         if (! $mention) {
1375                 if (($community_page || $prvgroup) &&
1376                           (!$item['wall']) && (!$item['origin']) && ($item['id'] == $item['parent'])) {
1377                         // mmh.. no mention.. community page or private group... no wall.. no origin.. top-post (not a comment)
1378                         // delete it!
1379                         logger("tag_deliver: no-mention top-level post to communuty or private group. delete.");
1380                         q("DELETE FROM item WHERE id = %d and uid = %d",
1381                                 intval($item_id),
1382                                 intval($uid)
1383                         );
1384                         return true;
1385                 }
1386                 return;
1387         }
1388
1389         $arr = array('item' => $item, 'user' => $u[0], 'contact' => $r[0]);
1390
1391         call_hooks('tagged', $arr);
1392
1393         if ((! $community_page) && (! $prvgroup)) {
1394                 return;
1395         }
1396
1397         /*
1398          * tgroup delivery - setup a second delivery chain
1399          * prevent delivery looping - only proceed
1400          * if the message originated elsewhere and is a top-level post
1401          */
1402         if (($item['wall']) || ($item['origin']) || ($item['id'] != $item['parent'])) {
1403                 return;
1404         }
1405
1406         // now change this copy of the post to a forum head message and deliver to all the tgroup members
1407         $c = q("SELECT `name`, `url`, `thumb` FROM `contact` WHERE `self` = 1 AND `uid` = %d LIMIT 1",
1408                 intval($u[0]['uid'])
1409         );
1410         if (! dbm::is_result($c)) {
1411                 return;
1412         }
1413
1414         // also reset all the privacy bits to the forum default permissions
1415
1416         $private = ($u[0]['allow_cid'] || $u[0]['allow_gid'] || $u[0]['deny_cid'] || $u[0]['deny_gid']) ? 1 : 0;
1417
1418         $forum_mode = (($prvgroup) ? 2 : 1);
1419
1420         q("UPDATE `item` SET `wall` = 1, `origin` = 1, `forum_mode` = %d, `owner-name` = '%s', `owner-link` = '%s', `owner-avatar` = '%s',
1421                 `private` = %d, `allow_cid` = '%s', `allow_gid` = '%s', `deny_cid` = '%s', `deny_gid` = '%s'  WHERE `id` = %d",
1422                 intval($forum_mode),
1423                 dbesc($c[0]['name']),
1424                 dbesc($c[0]['url']),
1425                 dbesc($c[0]['thumb']),
1426                 intval($private),
1427                 dbesc($u[0]['allow_cid']),
1428                 dbesc($u[0]['allow_gid']),
1429                 dbesc($u[0]['deny_cid']),
1430                 dbesc($u[0]['deny_gid']),
1431                 intval($item_id)
1432         );
1433         update_thread($item_id);
1434
1435         proc_run(PRIORITY_HIGH,'include/notifier.php', 'tgroup', $item_id);
1436
1437 }
1438
1439
1440
1441 function tgroup_check($uid, $item) {
1442
1443         $mention = false;
1444
1445         // check that the message originated elsewhere and is a top-level post
1446
1447         if (($item['wall']) || ($item['origin']) || ($item['uri'] != $item['parent-uri'])) {
1448                 return false;
1449         }
1450
1451         /// @TODO Encapsulate this or find it encapsulated and replace all occurrances
1452         $u = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1453                 intval($uid)
1454         );
1455         if (! dbm::is_result($u)) {
1456                 return false;
1457         }
1458
1459         $community_page = (($u[0]['page-flags'] == PAGE_COMMUNITY) ? true : false);
1460         $prvgroup = (($u[0]['page-flags'] == PAGE_PRVGROUP) ? true : false);
1461
1462         $link = normalise_link(App::get_baseurl() . '/profile/' . $u[0]['nickname']);
1463
1464         /*
1465          * Diaspora uses their own hardwired link URL in @-tags
1466          * instead of the one we supply with webfinger
1467          */
1468         $dlink = normalise_link(App::get_baseurl() . '/u/' . $u[0]['nickname']);
1469
1470         $cnt = preg_match_all('/[\@\!]\[url\=(.*?)\](.*?)\[\/url\]/ism', $item['body'], $matches, PREG_SET_ORDER);
1471         if ($cnt) {
1472                 foreach ($matches as $mtch) {
1473                         if (link_compare($link, $mtch[1]) || link_compare($dlink, $mtch[1])) {
1474                                 $mention = true;
1475                                 logger('tgroup_check: mention found: ' . $mtch[2]);
1476                         }
1477                 }
1478         }
1479
1480         if (! $mention) {
1481                 return false;
1482         }
1483
1484         /// @TODO Combine both return statements into one
1485         return (($community_page) || ($prvgroup));
1486 }
1487
1488 /**
1489  * This function returns true if $update has an edited timestamp newer
1490  * than $existing, i.e. $update contains new data which should override
1491  * what's already there.  If there is no timestamp yet, the update is
1492  * assumed to be newer.  If the update has no timestamp, the existing
1493  * item is assumed to be up-to-date.  If the timestamps are equal it
1494  * assumes the update has been seen before and should be ignored.
1495  *
1496  * @todo fix type-hints (both array)
1497  */
1498 function edited_timestamp_is_newer ($existing, $update) {
1499         if (!x($existing, 'edited') || !$existing['edited']) {
1500                 return true;
1501         }
1502         if (!x($update, 'edited') || !$update['edited']) {
1503                 return false;
1504         }
1505
1506         $existing_edited = datetime_convert('UTC', 'UTC', $existing['edited']);
1507         $update_edited = datetime_convert('UTC', 'UTC', $update['edited']);
1508         return (strcmp($existing_edited, $update_edited) < 0);
1509 }
1510
1511 /**
1512  *
1513  * consume_feed - process atom feed and update anything/everything we might need to update
1514  *
1515  * $xml = the (atom) feed to consume - RSS isn't as fully supported but may work for simple feeds.
1516  *
1517  * $importer = the contact_record (joined to user_record) of the local user who owns this relationship.
1518  *             It is this person's stuff that is going to be updated.
1519  * $contact =  the person who is sending us stuff. If not set, we MAY be processing a "follow" activity
1520  *             from an external network and MAY create an appropriate contact record. Otherwise, we MUST
1521  *             have a contact record.
1522  * $hub = should we find a hub declation in the feed, pass it back to our calling process, who might (or
1523  *        might not) try and subscribe to it.
1524  * $datedir sorts in reverse order
1525  * $pass - by default ($pass = 0) we cannot guarantee that a parent item has been
1526  *      imported prior to its children being seen in the stream unless we are certain
1527  *      of how the feed is arranged/ordered.
1528  * With $pass = 1, we only pull parent items out of the stream.
1529  * With $pass = 2, we only pull children (comments/likes).
1530  *
1531  * So running this twice, first with pass 1 and then with pass 2 will do the right
1532  * thing regardless of feed ordering. This won't be adequate in a fully-threaded
1533  * model where comments can have sub-threads. That would require some massive sorting
1534  * to get all the feed items into a mostly linear ordering, and might still require
1535  * recursion.
1536  *
1537  * @todo find proper type-hints
1538  */
1539 function consume_feed($xml, $importer, &$contact, &$hub, $datedir = 0, $pass = 0) {
1540         if ($contact['network'] === NETWORK_OSTATUS) {
1541                 if ($pass < 2) {
1542                         // Test - remove before flight
1543                         //$tempfile = tempnam(get_temppath(), "ostatus2");
1544                         //file_put_contents($tempfile, $xml);
1545                         logger("Consume OStatus messages ", LOGGER_DEBUG);
1546                         ostatus::import($xml, $importer, $contact, $hub);
1547                 }
1548                 return;
1549         }
1550
1551         if ($contact['network'] === NETWORK_FEED) {
1552                 if ($pass < 2) {
1553                         logger("Consume feeds", LOGGER_DEBUG);
1554                         feed_import($xml, $importer, $contact, $hub);
1555                 }
1556                 return;
1557         }
1558
1559         if ($contact['network'] === NETWORK_DFRN) {
1560                 logger("Consume DFRN messages", LOGGER_DEBUG);
1561
1562                 $r = q("SELECT `contact`.*, `contact`.`uid` AS `importer_uid`,
1563                                         `contact`.`pubkey` AS `cpubkey`,
1564                                         `contact`.`prvkey` AS `cprvkey`,
1565                                         `contact`.`thumb` AS `thumb`,
1566                                         `contact`.`url` as `url`,
1567                                         `contact`.`name` as `senderName`,
1568                                         `user`.*
1569                         FROM `contact`
1570                         LEFT JOIN `user` ON `contact`.`uid` = `user`.`uid`
1571                         WHERE `contact`.`id` = %d AND `user`.`uid` = %d",
1572                         dbesc($contact["id"]), dbesc($importer["uid"])
1573                 );
1574                 if (dbm::is_result($r)) {
1575                         logger("Now import the DFRN feed");
1576                         dfrn::import($xml, $r[0], true);
1577                         return;
1578                 }
1579         }
1580 }
1581
1582 /// @TODO type-hint is array
1583 function item_is_remote_self($contact, &$datarray) {
1584         $a = get_app();
1585
1586         if (!$contact['remote_self']) {
1587                 return false;
1588         }
1589
1590         // Prevent the forwarding of posts that are forwarded
1591         if ($datarray["extid"] == NETWORK_DFRN) {
1592                 return false;
1593         }
1594
1595         // Prevent to forward already forwarded posts
1596         if ($datarray["app"] == $a->get_hostname()) {
1597                 return false;
1598         }
1599
1600         // Only forward posts
1601         if ($datarray["verb"] != ACTIVITY_POST) {
1602                 return false;
1603         }
1604
1605         if (($contact['network'] != NETWORK_FEED) AND $datarray['private']) {
1606                 return false;
1607         }
1608
1609         $datarray2 = $datarray;
1610         logger('remote-self start - Contact '.$contact['url'].' - '.$contact['remote_self'].' Item '.print_r($datarray, true), LOGGER_DEBUG);
1611         if ($contact['remote_self'] == 2) {
1612                 $r = q("SELECT `id`,`url`,`name`,`thumb` FROM `contact` WHERE `uid` = %d AND `self`",
1613                         intval($contact['uid']));
1614                 if (dbm::is_result($r)) {
1615                         $datarray['contact-id'] = $r[0]["id"];
1616
1617                         $datarray['owner-name'] = $r[0]["name"];
1618                         $datarray['owner-link'] = $r[0]["url"];
1619                         $datarray['owner-avatar'] = $r[0]["thumb"];
1620
1621                         $datarray['author-name']   = $datarray['owner-name'];
1622                         $datarray['author-link']   = $datarray['owner-link'];
1623                         $datarray['author-avatar'] = $datarray['owner-avatar'];
1624                 }
1625
1626                 if ($contact['network'] != NETWORK_FEED) {
1627                         $datarray["guid"] = get_guid(32);
1628                         unset($datarray["plink"]);
1629                         $datarray["uri"] = item_new_uri($a->get_hostname(), $contact['uid'], $datarray["guid"]);
1630                         $datarray["parent-uri"] = $datarray["uri"];
1631                         $datarray["extid"] = $contact['network'];
1632                         $urlpart = parse_url($datarray2['author-link']);
1633                         $datarray["app"] = $urlpart["host"];
1634                 } else {
1635                         $datarray['private'] = 0;
1636                 }
1637         }
1638
1639         if ($contact['network'] != NETWORK_FEED) {
1640                 // Store the original post
1641                 $r = item_store($datarray2, false, false);
1642                 logger('remote-self post original item - Contact '.$contact['url'].' return '.$r.' Item '.print_r($datarray2, true), LOGGER_DEBUG);
1643         } else {
1644                 $datarray["app"] = "Feed";
1645         }
1646
1647         return true;
1648 }
1649
1650 /// @TODO find proper type-hints
1651 function new_follower($importer, $contact, $datarray, $item, $sharing = false) {
1652         $url = notags(trim($datarray['author-link']));
1653         $name = notags(trim($datarray['author-name']));
1654         $photo = notags(trim($datarray['author-avatar']));
1655
1656         if (is_object($item)) {
1657                 $rawtag = $item->get_item_tags(NAMESPACE_ACTIVITY,'actor');
1658                 if ($rawtag && $rawtag[0]['child'][NAMESPACE_POCO]['preferredUsername'][0]['data']) {
1659                         $nick = $rawtag[0]['child'][NAMESPACE_POCO]['preferredUsername'][0]['data'];
1660                 }
1661         } else {
1662                 $nick = $item;
1663         }
1664
1665         if (is_array($contact)) {
1666                 if (($contact['network'] == NETWORK_OSTATUS && $contact['rel'] == CONTACT_IS_SHARING)
1667                         || ($sharing && $contact['rel'] == CONTACT_IS_FOLLOWER)) {
1668                         $r = q("UPDATE `contact` SET `rel` = %d, `writable` = 1 WHERE `id` = %d AND `uid` = %d",
1669                                 intval(CONTACT_IS_FRIEND),
1670                                 intval($contact['id']),
1671                                 intval($importer['uid'])
1672                         );
1673                 }
1674                 // send email notification to owner?
1675         } else {
1676
1677                 // create contact record
1678
1679                 $r = q("INSERT INTO `contact` (`uid`, `created`, `url`, `nurl`, `name`, `nick`, `photo`, `network`, `rel`,
1680                         `blocked`, `readonly`, `pending`, `writable`)
1681                         VALUES (%d, '%s', '%s', '%s', '%s', '%s', '%s', '%s', %d, 0, 0, 1, 1)",
1682                         intval($importer['uid']),
1683                         dbesc(datetime_convert()),
1684                         dbesc($url),
1685                         dbesc(normalise_link($url)),
1686                         dbesc($name),
1687                         dbesc($nick),
1688                         dbesc($photo),
1689                         dbesc(($sharing) ? NETWORK_ZOT : NETWORK_OSTATUS),
1690                         intval(($sharing) ? CONTACT_IS_SHARING : CONTACT_IS_FOLLOWER)
1691                 );
1692                 $r = q("SELECT `id`, `network` FROM `contact` WHERE `uid` = %d AND `url` = '%s' AND `pending` = 1 LIMIT 1",
1693                                 intval($importer['uid']),
1694                                 dbesc($url)
1695                 );
1696                 if (dbm::is_result($r)) {
1697                         $contact_record = $r[0];
1698                         update_contact_avatar($photo, $importer["uid"], $contact_record["id"], true);
1699                 }
1700
1701                 /// @TODO Encapsulate this into a function/method
1702                 $r = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1703                         intval($importer['uid'])
1704                 );
1705
1706                 if (dbm::is_result($r) AND !in_array($r[0]['page-flags'], array(PAGE_SOAPBOX, PAGE_FREELOVE))) {
1707
1708                         // create notification
1709                         $hash = random_string();
1710
1711                         if (is_array($contact_record)) {
1712                                 $ret = q("INSERT INTO `intro` ( `uid`, `contact-id`, `blocked`, `knowyou`, `hash`, `datetime`)
1713                                         VALUES ( %d, %d, 0, 0, '%s', '%s' )",
1714                                         intval($importer['uid']),
1715                                         intval($contact_record['id']),
1716                                         dbesc($hash),
1717                                         dbesc(datetime_convert())
1718                                 );
1719                         }
1720
1721                         $def_gid = get_default_group($importer['uid'], $contact_record["network"]);
1722
1723                         if (intval($def_gid)) {
1724                                 group_add_member($importer['uid'], '', $contact_record['id'], $def_gid);
1725                         }
1726
1727                         if (($r[0]['notify-flags'] & NOTIFY_INTRO) &&
1728                                 in_array($r[0]['page-flags'], array(PAGE_NORMAL))) {
1729
1730                                 notification(array(
1731                                         'type'         => NOTIFY_INTRO,
1732                                         'notify_flags' => $r[0]['notify-flags'],
1733                                         'language'     => $r[0]['language'],
1734                                         'to_name'      => $r[0]['username'],
1735                                         'to_email'     => $r[0]['email'],
1736                                         'uid'          => $r[0]['uid'],
1737                                         'link'             => App::get_baseurl() . '/notifications/intro',
1738                                         'source_name'  => ((strlen(stripslashes($contact_record['name']))) ? stripslashes($contact_record['name']) : t('[Name Withheld]')),
1739                                         'source_link'  => $contact_record['url'],
1740                                         'source_photo' => $contact_record['photo'],
1741                                         'verb'         => ($sharing ? ACTIVITY_FRIEND : ACTIVITY_FOLLOW),
1742                                         'otype'        => 'intro'
1743                                 ));
1744
1745                         }
1746                 } elseif (dbm::is_result($r) AND in_array($r[0]['page-flags'], array(PAGE_SOAPBOX, PAGE_FREELOVE))) {
1747                         $r = q("UPDATE `contact` SET `pending` = 0 WHERE `uid` = %d AND `url` = '%s' AND `pending` LIMIT 1",
1748                                         intval($importer['uid']),
1749                                         dbesc($url)
1750                         );
1751                 }
1752
1753         }
1754 }
1755
1756 function lose_follower($importer, $contact, array $datarray = array(), $item = "") {
1757
1758         if (($contact['rel'] == CONTACT_IS_FRIEND) || ($contact['rel'] == CONTACT_IS_SHARING)) {
1759                 q("UPDATE `contact` SET `rel` = %d WHERE `id` = %d",
1760                         intval(CONTACT_IS_SHARING),
1761                         intval($contact['id'])
1762                 );
1763         } else {
1764                 contact_remove($contact['id']);
1765         }
1766 }
1767
1768 function lose_sharer($importer, $contact, array $datarray = array(), $item = "") {
1769
1770         if (($contact['rel'] == CONTACT_IS_FRIEND) || ($contact['rel'] == CONTACT_IS_FOLLOWER)) {
1771                 q("UPDATE `contact` SET `rel` = %d WHERE `id` = %d",
1772                         intval(CONTACT_IS_FOLLOWER),
1773                         intval($contact['id'])
1774                 );
1775         } else {
1776                 contact_remove($contact['id']);
1777         }
1778 }
1779
1780 function subscribe_to_hub($url, $importer, $contact, $hubmode = 'subscribe') {
1781
1782         $a = get_app();
1783
1784         if (is_array($importer)) {
1785                 $r = q("SELECT `nickname` FROM `user` WHERE `uid` = %d LIMIT 1",
1786                         intval($importer['uid'])
1787                 );
1788         }
1789
1790         /*
1791          * Diaspora has different message-ids in feeds than they do
1792          * through the direct Diaspora protocol. If we try and use
1793          * the feed, we'll get duplicates. So don't.
1794          */
1795         if ((! dbm::is_result($r)) || $contact['network'] === NETWORK_DIASPORA) {
1796                 return;
1797         }
1798
1799         $push_url = get_config('system','url') . '/pubsub/' . $r[0]['nickname'] . '/' . $contact['id'];
1800
1801         // Use a single verify token, even if multiple hubs
1802         $verify_token = ((strlen($contact['hub-verify'])) ? $contact['hub-verify'] : random_string());
1803
1804         $params= 'hub.mode=' . $hubmode . '&hub.callback=' . urlencode($push_url) . '&hub.topic=' . urlencode($contact['poll']) . '&hub.verify=async&hub.verify_token=' . $verify_token;
1805
1806         logger('subscribe_to_hub: ' . $hubmode . ' ' . $contact['name'] . ' to hub ' . $url . ' endpoint: '  . $push_url . ' with verifier ' . $verify_token);
1807
1808         if (!strlen($contact['hub-verify']) OR ($contact['hub-verify'] != $verify_token)) {
1809                 $r = q("UPDATE `contact` SET `hub-verify` = '%s' WHERE `id` = %d",
1810                         dbesc($verify_token),
1811                         intval($contact['id'])
1812                 );
1813         }
1814
1815         post_url($url, $params);
1816
1817         logger('subscribe_to_hub: returns: ' . $a->get_curl_code(), LOGGER_DEBUG);
1818
1819         return;
1820
1821 }
1822
1823 function fix_private_photos($s, $uid, $item = null, $cid = 0) {
1824
1825         if (get_config('system','disable_embedded')) {
1826                 return $s;
1827         }
1828
1829         $a = get_app();
1830
1831         logger('fix_private_photos: check for photos', LOGGER_DEBUG);
1832         $site = substr(App::get_baseurl(),strpos(App::get_baseurl(),'://'));
1833
1834         $orig_body = $s;
1835         $new_body = '';
1836
1837         $img_start = strpos($orig_body, '[img');
1838         $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
1839         $img_len = ($img_start !== false ? strpos(substr($orig_body, $img_start + $img_st_close + 1), '[/img]') : false);
1840         while ( ($img_st_close !== false) && ($img_len !== false) ) {
1841
1842                 $img_st_close++; // make it point to AFTER the closing bracket
1843                 $image = substr($orig_body, $img_start + $img_st_close, $img_len);
1844
1845                 logger('fix_private_photos: found photo ' . $image, LOGGER_DEBUG);
1846
1847
1848                 if (stristr($image , $site . '/photo/')) {
1849                         // Only embed locally hosted photos
1850                         $replace = false;
1851                         $i = basename($image);
1852                         $i = str_replace(array('.jpg', '.png', '.gif'),array('', '',''), $i);
1853                         $x = strpos($i, '-');
1854
1855                         if ($x) {
1856                                 $res = substr($i, $x + 1);
1857                                 $i = substr($i, 0, $x);
1858                                 $r = q("SELECT * FROM `photo` WHERE `resource-id` = '%s' AND `scale` = %d AND `uid` = %d",
1859                                         dbesc($i),
1860                                         intval($res),
1861                                         intval($uid)
1862
1863                                 );
1864                                 if (dbm::is_result($r)) {
1865                                         /*
1866                                          * Check to see if we should replace this photo link with an embedded image
1867                                          * 1. No need to do so if the photo is public
1868                                          * 2. If there's a contact-id provided, see if they're in the access list
1869                                          *    for the photo. If so, embed it.
1870                                          * 3. Otherwise, if we have an item, see if the item permissions match the photo
1871                                          *    permissions, regardless of order but first check to see if they're an exact
1872                                          *    match to save some processing overhead.
1873                                          */
1874                                         if (has_permissions($r[0])) {
1875                                                 if ($cid) {
1876                                                         $recips = enumerate_permissions($r[0]);
1877                                                         if (in_array($cid, $recips)) {
1878                                                                 $replace = true;
1879                                                         }
1880                                                 } elseif ($item) {
1881                                                         if (compare_permissions($item, $r[0])) {
1882                                                                 $replace = true;
1883                                                         }
1884                                                 }
1885                                         }
1886                                         if ($replace) {
1887                                                 $data = $r[0]['data'];
1888                                                 $type = $r[0]['type'];
1889
1890                                                 // If a custom width and height were specified, apply before embedding
1891                                                 if (preg_match("/\[img\=([0-9]*)x([0-9]*)\]/is", substr($orig_body, $img_start, $img_st_close), $match)) {
1892                                                         logger('fix_private_photos: scaling photo', LOGGER_DEBUG);
1893
1894                                                         $width = intval($match[1]);
1895                                                         $height = intval($match[2]);
1896
1897                                                         $ph = new Photo($data, $type);
1898                                                         if ($ph->is_valid()) {
1899                                                                 $ph->scaleImage(max($width, $height));
1900                                                                 $data = $ph->imageString();
1901                                                                 $type = $ph->getType();
1902                                                         }
1903                                                 }
1904
1905                                                 logger('fix_private_photos: replacing photo', LOGGER_DEBUG);
1906                                                 $image = 'data:' . $type . ';base64,' . base64_encode($data);
1907                                                 logger('fix_private_photos: replaced: ' . $image, LOGGER_DATA);
1908                                         }
1909                                 }
1910                         }
1911                 }
1912
1913                 $new_body = $new_body . substr($orig_body, 0, $img_start + $img_st_close) . $image . '[/img]';
1914                 $orig_body = substr($orig_body, $img_start + $img_st_close + $img_len + strlen('[/img]'));
1915                 if ($orig_body === false) {
1916                         $orig_body = '';
1917                 }
1918
1919                 $img_start = strpos($orig_body, '[img');
1920                 $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
1921                 $img_len = ($img_start !== false ? strpos(substr($orig_body, $img_start + $img_st_close + 1), '[/img]') : false);
1922         }
1923
1924         $new_body = $new_body . $orig_body;
1925
1926         return $new_body;
1927 }
1928
1929 /// @TODO type-hint is array
1930 function has_permissions($obj) {
1931         return (
1932                 (
1933                         x($obj, 'allow_cid')
1934                 ) || (
1935                         x($obj, 'allow_gid')
1936                 ) || (
1937                         x($obj, 'deny_cid')
1938                 ) || (
1939                         x($obj, 'deny_gid')
1940                 )
1941         );
1942 }
1943
1944 /// @TODO type-hint is array
1945 function compare_permissions($obj1, $obj2) {
1946         // first part is easy. Check that these are exactly the same.
1947         if (($obj1['allow_cid'] == $obj2['allow_cid'])
1948                 && ($obj1['allow_gid'] == $obj2['allow_gid'])
1949                 && ($obj1['deny_cid'] == $obj2['deny_cid'])
1950                 && ($obj1['deny_gid'] == $obj2['deny_gid'])) {
1951                 return true;
1952         }
1953
1954         // This is harder. Parse all the permissions and compare the resulting set.
1955         $recipients1 = enumerate_permissions($obj1);
1956         $recipients2 = enumerate_permissions($obj2);
1957         sort($recipients1);
1958         sort($recipients2);
1959
1960         /// @TODO Comparison of arrays, maybe use array_diff_assoc() here?
1961         return ($recipients1 == $recipients2);
1962 }
1963
1964 // returns an array of contact-ids that are allowed to see this object
1965 /// @TODO type-hint is array
1966 function enumerate_permissions($obj) {
1967         $allow_people = expand_acl($obj['allow_cid']);
1968         $allow_groups = expand_groups(expand_acl($obj['allow_gid']));
1969         $deny_people  = expand_acl($obj['deny_cid']);
1970         $deny_groups  = expand_groups(expand_acl($obj['deny_gid']));
1971         $recipients   = array_unique(array_merge($allow_people, $allow_groups));
1972         $deny         = array_unique(array_merge($deny_people, $deny_groups));
1973         $recipients   = array_diff($recipients, $deny);
1974         return $recipients;
1975 }
1976
1977 function item_getfeedtags($item) {
1978         $ret = array();
1979         $matches = false;
1980         $cnt = preg_match_all('|\#\[url\=(.*?)\](.*?)\[\/url\]|', $item['tag'], $matches);
1981         if ($cnt) {
1982                 for ($x = 0; $x < $cnt; $x ++) {
1983                         if ($matches[1][$x]) {
1984                                 $ret[$matches[2][$x]] = array('#', $matches[1][$x], $matches[2][$x]);
1985                         }
1986                 }
1987         }
1988         $matches = false;
1989         $cnt = preg_match_all('|\@\[url\=(.*?)\](.*?)\[\/url\]|', $item['tag'], $matches);
1990         if ($cnt) {
1991                 for ($x = 0; $x < $cnt; $x ++) {
1992                         if ($matches[1][$x]) {
1993                                 $ret[] = array('@', $matches[1][$x], $matches[2][$x]);
1994                         }
1995                 }
1996         }
1997         return $ret;
1998 }
1999
2000 function item_expire($uid, $days, $network = "", $force = false) {
2001
2002         if ((! $uid) || ($days < 1)) {
2003                 return;
2004         }
2005
2006         /*
2007          * $expire_network_only = save your own wall posts
2008          * and just expire conversations started by others
2009          */
2010         $expire_network_only = get_pconfig($uid,'expire', 'network_only');
2011         $sql_extra = ((intval($expire_network_only)) ? " AND wall = 0 " : "");
2012
2013         if ($network != "") {
2014                 $sql_extra .= sprintf(" AND network = '%s' ", dbesc($network));
2015
2016                 /*
2017                  * There is an index "uid_network_received" but not "uid_network_created"
2018                  * This avoids the creation of another index just for one purpose.
2019                  * And it doesn't really matter wether to look at "received" or "created"
2020                  */
2021                 $range = "AND `received` < UTC_TIMESTAMP() - INTERVAL %d DAY ";
2022         } else {
2023                 $range = "AND `created` < UTC_TIMESTAMP() - INTERVAL %d DAY ";
2024         }
2025
2026         $r = q("SELECT `file`, `resource-id`, `starred`, `type`, `id` FROM `item`
2027                 WHERE `uid` = %d $range
2028                 AND `id` = `parent`
2029                 $sql_extra
2030                 AND `deleted` = 0",
2031                 intval($uid),
2032                 intval($days)
2033         );
2034
2035         if (! dbm::is_result($r)) {
2036                 return;
2037         }
2038
2039         $expire_items = get_pconfig($uid, 'expire', 'items');
2040         $expire_items = (($expire_items === false) ? 1 : intval($expire_items)); // default if not set: 1
2041
2042         // Forcing expiring of items - but not notes and marked items
2043         if ($force) {
2044                 $expire_items = true;
2045         }
2046
2047         $expire_notes = get_pconfig($uid, 'expire', 'notes');
2048         $expire_notes = (($expire_notes === false) ? 1 : intval($expire_notes)); // default if not set: 1
2049
2050         $expire_starred = get_pconfig($uid, 'expire', 'starred');
2051         $expire_starred = (($expire_starred === false) ? 1 : intval($expire_starred)); // default if not set: 1
2052
2053         $expire_photos = get_pconfig($uid, 'expire', 'photos');
2054         $expire_photos = (($expire_photos === false) ? 0 : intval($expire_photos)); // default if not set: 0
2055
2056         logger('expire: # items=' . count($r). "; expire items: $expire_items, expire notes: $expire_notes, expire starred: $expire_starred, expire photos: $expire_photos");
2057
2058         foreach ($r as $item) {
2059
2060                 // don't expire filed items
2061
2062                 if (strpos($item['file'],'[') !== false) {
2063                         continue;
2064                 }
2065
2066                 // Only expire posts, not photos and photo comments
2067
2068                 if ($expire_photos == 0 && strlen($item['resource-id'])) {
2069                         continue;
2070                 } elseif ($expire_starred == 0 && intval($item['starred'])) {
2071                         continue;
2072                 } elseif ($expire_notes == 0 && $item['type'] == 'note') {
2073                         continue;
2074                 } elseif ($expire_items == 0 && $item['type'] != 'note') {
2075                         continue;
2076                 }
2077
2078                 drop_item($item['id'], false);
2079         }
2080
2081         proc_run(PRIORITY_HIGH, "include/notifier.php", "expire", $uid);
2082
2083 }
2084
2085 /// @TODO type-hint is array
2086 function drop_items($items) {
2087         $uid = 0;
2088
2089         if (! local_user() && ! remote_user()) {
2090                 return;
2091         }
2092
2093         if (count($items)) {
2094                 foreach ($items as $item) {
2095                         $owner = drop_item($item,false);
2096                         if ($owner && ! $uid)
2097                                 $uid = $owner;
2098                 }
2099         }
2100
2101         // multiple threads may have been deleted, send an expire notification
2102
2103         if ($uid) {
2104                 proc_run(PRIORITY_HIGH, "include/notifier.php", "expire", $uid);
2105         }
2106 }
2107
2108
2109 function drop_item($id, $interactive = true) {
2110
2111         $a = get_app();
2112
2113         // locate item to be deleted
2114
2115         $r = q("SELECT * FROM `item` WHERE `id` = %d LIMIT 1",
2116                 intval($id)
2117         );
2118
2119         if (! dbm::is_result($r)) {
2120                 if (! $interactive) {
2121                         return 0;
2122                 }
2123                 notice( t('Item not found.') . EOL);
2124                 goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2125         }
2126
2127         $item = $r[0];
2128
2129         $owner = $item['uid'];
2130
2131         $contact_id = 0;
2132
2133         // check if logged in user is either the author or owner of this item
2134
2135         if (is_array($_SESSION['remote'])) {
2136                 foreach ($_SESSION['remote'] as $visitor) {
2137                         if ($visitor['uid'] == $item['uid'] && $visitor['cid'] == $item['contact-id']) {
2138                                 $contact_id = $visitor['cid'];
2139                                 break;
2140                         }
2141                 }
2142         }
2143
2144
2145         if ((local_user() == $item['uid']) || ($contact_id) || (! $interactive)) {
2146
2147                 // Check if we should do HTML-based delete confirmation
2148                 if ($_REQUEST['confirm']) {
2149                         // <form> can't take arguments in its "action" parameter
2150                         // so add any arguments as hidden inputs
2151                         $query = explode_querystring($a->query_string);
2152                         $inputs = array();
2153                         foreach ($query['args'] as $arg) {
2154                                 if (strpos($arg, 'confirm=') === false) {
2155                                         $arg_parts = explode('=', $arg);
2156                                         $inputs[] = array('name' => $arg_parts[0], 'value' => $arg_parts[1]);
2157                                 }
2158                         }
2159
2160                         return replace_macros(get_markup_template('confirm.tpl'), array(
2161                                 '$method' => 'get',
2162                                 '$message' => t('Do you really want to delete this item?'),
2163                                 '$extra_inputs' => $inputs,
2164                                 '$confirm' => t('Yes'),
2165                                 '$confirm_url' => $query['base'],
2166                                 '$confirm_name' => 'confirmed',
2167                                 '$cancel' => t('Cancel'),
2168                         ));
2169                 }
2170                 // Now check how the user responded to the confirmation query
2171                 if ($_REQUEST['canceled']) {
2172                         goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2173                 }
2174
2175                 logger('delete item: ' . $item['id'], LOGGER_DEBUG);
2176                 // delete the item
2177
2178                 $r = q("UPDATE `item` SET `deleted` = 1, `title` = '', `body` = '', `edited` = '%s', `changed` = '%s' WHERE `id` = %d",
2179                         dbesc(datetime_convert()),
2180                         dbesc(datetime_convert()),
2181                         intval($item['id'])
2182                 );
2183                 create_tags_from_item($item['id']);
2184                 create_files_from_item($item['id']);
2185                 delete_thread($item['id'], $item['parent-uri']);
2186
2187                 // clean up categories and tags so they don't end up as orphans
2188
2189                 $matches = false;
2190                 $cnt = preg_match_all('/<(.*?)>/', $item['file'], $matches, PREG_SET_ORDER);
2191                 if ($cnt) {
2192                         foreach ($matches as $mtch) {
2193                                 file_tag_unsave_file($item['uid'], $item['id'], $mtch[1],true);
2194                         }
2195                 }
2196
2197                 $matches = false;
2198
2199                 $cnt = preg_match_all('/\[(.*?)\]/', $item['file'], $matches, PREG_SET_ORDER);
2200                 if ($cnt) {
2201                         foreach ($matches as $mtch) {
2202                                 file_tag_unsave_file($item['uid'], $item['id'], $mtch[1],false);
2203                         }
2204                 }
2205
2206                 /*
2207                  * If item is a link to a photo resource, nuke all the associated photos
2208                  * (visitors will not have photo resources)
2209                  * This only applies to photos uploaded from the photos page. Photos inserted into a post do not
2210                  * generate a resource-id and therefore aren't intimately linked to the item.
2211                  */
2212                 if (strlen($item['resource-id'])) {
2213                         q("DELETE FROM `photo` WHERE `resource-id` = '%s' AND `uid` = %d ",
2214                                 dbesc($item['resource-id']),
2215                                 intval($item['uid'])
2216                         );
2217                         // ignore the result
2218                 }
2219
2220                 // If item is a link to an event, nuke the event record.
2221                 if (intval($item['event-id'])) {
2222                         q("DELETE FROM `event` WHERE `id` = %d AND `uid` = %d",
2223                                 intval($item['event-id']),
2224                                 intval($item['uid'])
2225                         );
2226                         // ignore the result
2227                 }
2228
2229                 // If item has attachments, drop them
2230                 foreach (explode(", ", $item['attach']) as $attach) {
2231                         preg_match("|attach/(\d+)|", $attach, $matches);
2232                         q("DELETE FROM `attach` WHERE `id` = %d AND `uid` = %d",
2233                                 intval($matches[1]),
2234                                 local_user()
2235                         );
2236                         // ignore the result
2237                 }
2238
2239
2240                 // clean up item_id and sign meta-data tables
2241
2242                 /*
2243                 /// @TODO Old code - caused very long queries and warning entries in the mysql logfiles:
2244
2245                 $r = q("DELETE FROM item_id where iid in (select id from item where parent = %d and uid = %d)",
2246                         intval($item['id']),
2247                         intval($item['uid'])
2248                 );
2249
2250                 $r = q("DELETE FROM sign where iid in (select id from item where parent = %d and uid = %d)",
2251                         intval($item['id']),
2252                         intval($item['uid'])
2253                 );
2254                 */
2255
2256                 // The new code splits the queries since the mysql optimizer really has bad problems with subqueries
2257
2258                 // Creating list of parents
2259                 $r = q("SELECT `id` FROM `item` WHERE `parent` = %d AND `uid` = %d",
2260                         intval($item['id']),
2261                         intval($item['uid'])
2262                 );
2263
2264                 $parentid = "";
2265
2266                 foreach ($r as $row) {
2267                         if ($parentid != "") {
2268                                 $parentid .= ", ";
2269                         }
2270
2271                         $parentid .= $row["id"];
2272                 }
2273
2274                 // Now delete them
2275                 if ($parentid != "") {
2276                         $r = q("DELETE FROM `item_id` WHERE `iid` IN (%s)", dbesc($parentid));
2277                         $r = q("DELETE FROM `sign` WHERE `iid` IN (%s)", dbesc($parentid));
2278                 }
2279
2280                 // If it's the parent of a comment thread, kill all the kids
2281                 if ($item['uri'] == $item['parent-uri']) {
2282                         $r = q("UPDATE `item` SET `deleted` = 1, `edited` = '%s', `changed` = '%s', `body` = '' , `title` = ''
2283                                 WHERE `parent-uri` = '%s' AND `uid` = %d ",
2284                                 dbesc(datetime_convert()),
2285                                 dbesc(datetime_convert()),
2286                                 dbesc($item['parent-uri']),
2287                                 intval($item['uid'])
2288                         );
2289                         create_tags_from_itemuri($item['parent-uri'], $item['uid']);
2290                         create_files_from_itemuri($item['parent-uri'], $item['uid']);
2291                         delete_thread_uri($item['parent-uri'], $item['uid']);
2292                         // ignore the result
2293                 } else {
2294                         // ensure that last-child is set in case the comment that had it just got wiped.
2295                         q("UPDATE `item` SET `last-child` = 0, `changed` = '%s' WHERE `parent-uri` = '%s' AND `uid` = %d ",
2296                                 dbesc(datetime_convert()),
2297                                 dbesc($item['parent-uri']),
2298                                 intval($item['uid'])
2299                         );
2300                         // who is the last child now?
2301                         $r = q("SELECT `id` FROM `item` WHERE `parent-uri` = '%s' AND `type` != 'activity' AND `deleted` = 0 AND `uid` = %d ORDER BY `edited` DESC LIMIT 1",
2302                                 dbesc($item['parent-uri']),
2303                                 intval($item['uid'])
2304                         );
2305                         if (dbm::is_result($r)) {
2306                                 q("UPDATE `item` SET `last-child` = 1 WHERE `id` = %d",
2307                                         intval($r[0]['id'])
2308                                 );
2309                         }
2310                 }
2311
2312                 $drop_id = intval($item['id']);
2313
2314                 // send the notification upstream/downstream as the case may be
2315
2316                 proc_run(PRIORITY_HIGH, "include/notifier.php", "drop", $drop_id);
2317
2318                 if (! $interactive) {
2319                         return $owner;
2320                 }
2321                 goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2322                 //NOTREACHED
2323         } else {
2324                 if (! $interactive) {
2325                         return 0;
2326                 }
2327                 notice( t('Permission denied.') . EOL);
2328                 goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2329                 //NOTREACHED
2330         }
2331
2332 }
2333
2334
2335 function first_post_date($uid, $wall = false) {
2336         $r = q("SELECT `id`, `created` FROM `item`
2337                 WHERE `uid` = %d AND `wall` = %d AND `deleted` = 0 AND `visible` = 1 AND `moderated` = 0
2338                 AND `id` = `parent`
2339                 ORDER BY `created` ASC LIMIT 1",
2340                 intval($uid),
2341                 intval($wall ? 1 : 0)
2342         );
2343         if (dbm::is_result($r)) {
2344                 // logger('first_post_date: ' . $r[0]['id'] . ' ' . $r[0]['created'], LOGGER_DATA);
2345                 return substr(datetime_convert('',date_default_timezone_get(), $r[0]['created']),0,10);
2346         }
2347         return false;
2348 }
2349
2350 /* modified posted_dates() {below} to arrange the list in years */
2351 function list_post_dates($uid, $wall) {
2352         $dnow = datetime_convert('',date_default_timezone_get(), 'now','Y-m-d');
2353
2354         $dthen = first_post_date($uid, $wall);
2355         if (! $dthen) {
2356                 return array();
2357         }
2358
2359         // Set the start and end date to the beginning of the month
2360         $dnow = substr($dnow, 0, 8) . '01';
2361         $dthen = substr($dthen, 0, 8) . '01';
2362
2363         $ret = array();
2364
2365         /*
2366          * Starting with the current month, get the first and last days of every
2367          * month down to and including the month of the first post
2368          */
2369         while (substr($dnow, 0, 7) >= substr($dthen, 0, 7)) {
2370                 $dyear = intval(substr($dnow, 0, 4));
2371                 $dstart = substr($dnow, 0, 8) . '01';
2372                 $dend = substr($dnow, 0, 8) . get_dim(intval($dnow), intval(substr($dnow, 5)));
2373                 $start_month = datetime_convert('', '', $dstart, 'Y-m-d');
2374                 $end_month = datetime_convert('', '', $dend, 'Y-m-d');
2375                 $str = day_translate(datetime_convert('', '', $dnow, 'F'));
2376                 if (!$ret[$dyear]) {
2377                         $ret[$dyear] = array();
2378                 }
2379                 $ret[$dyear][] = array($str, $end_month, $start_month);
2380                 $dnow = datetime_convert('', '', $dnow . ' -1 month', 'Y-m-d');
2381         }
2382         return $ret;
2383 }
2384
2385 function posted_dates($uid, $wall) {
2386         $dnow = datetime_convert('', date_default_timezone_get(), 'now', 'Y-m-d');
2387
2388         $dthen = first_post_date($uid, $wall);
2389         if (! $dthen) {
2390                 return array();
2391         }
2392
2393         // Set the start and end date to the beginning of the month
2394         $dnow = substr($dnow, 0, 8) . '01';
2395         $dthen = substr($dthen, 0, 8) . '01';
2396
2397         $ret = array();
2398         /*
2399          * Starting with the current month, get the first and last days of every
2400          * month down to and including the month of the first post
2401          */
2402         while (substr($dnow, 0, 7) >= substr($dthen, 0, 7)) {
2403                 $dstart = substr($dnow, 0, 8) . '01';
2404                 $dend = substr($dnow, 0, 8) . get_dim(intval($dnow), intval(substr($dnow, 5)));
2405                 $start_month = datetime_convert('', '', $dstart, 'Y-m-d');
2406                 $end_month = datetime_convert('', '', $dend, 'Y-m-d');
2407                 $str = day_translate(datetime_convert('', '', $dnow, 'F Y'));
2408                 $ret[] = array($str, $end_month, $start_month);
2409                 $dnow = datetime_convert('', '', $dnow . ' -1 month', 'Y-m-d');
2410         }
2411         return $ret;
2412 }
2413
2414
2415 function posted_date_widget($url, $uid, $wall) {
2416         $o = '';
2417
2418         if (! feature_enabled($uid, 'archives')) {
2419                 return $o;
2420         }
2421
2422         // For former Facebook folks that left because of "timeline"
2423         /*
2424          * @TODO old-lost code?
2425         if ($wall && intval(get_pconfig($uid, 'system', 'no_wall_archive_widget')))
2426                 return $o;
2427         */
2428
2429         $visible_years = get_pconfig($uid,'system','archive_visible_years');
2430         if (! $visible_years) {
2431                 $visible_years = 5;
2432         }
2433
2434         $ret = list_post_dates($uid, $wall);
2435
2436         if (! dbm::is_result($ret)) {
2437                 return $o;
2438         }
2439
2440         $cutoff_year = intval(datetime_convert('',date_default_timezone_get(), 'now', 'Y')) - $visible_years;
2441         $cutoff = ((array_key_exists($cutoff_year, $ret))? true : false);
2442
2443         $o = replace_macros(get_markup_template('posted_date_widget.tpl'),array(
2444                 '$title' => t('Archives'),
2445                 '$size' => $visible_years,
2446                 '$cutoff_year' => $cutoff_year,
2447                 '$cutoff' => $cutoff,
2448                 '$url' => $url,
2449                 '$dates' => $ret,
2450                 '$showmore' => t('show more')
2451
2452         ));
2453         return $o;
2454 }