]> git.mxchange.org Git - friendica.git/blob - include/items.php
3e502aac51282ea36041a663f119a8b8f3c64b79
[friendica.git] / include / items.php
1 <?php
2 /**
3  * @file include/items.php
4  */
5 use Friendica\App;
6 use Friendica\ParseUrl;
7 use Friendica\Content\Features;
8 use Friendica\Core\Config;
9 use Friendica\Core\PConfig;
10 use Friendica\Core\Worker;
11 use Friendica\Core\System;
12 use Friendica\Database\DBM;
13 use Friendica\Model\GlobalContact;
14 use Friendica\Object\Contact;
15 use Friendica\Protocol\DFRN;
16 use Friendica\Protocol\OStatus;
17 use Friendica\Util\Lock;
18
19 require_once 'include/bbcode.php';
20 require_once 'include/oembed.php';
21 require_once 'include/crypto.php';
22 require_once 'include/tags.php';
23 require_once 'include/files.php';
24 require_once 'include/text.php';
25 require_once 'include/threads.php';
26 require_once 'include/plaintext.php';
27 require_once 'include/feed.php';
28 require_once 'mod/share.php';
29 require_once 'include/enotify.php';
30 require_once 'include/group.php';
31
32 function construct_verb($item) {
33         if ($item['verb']) {
34                 return $item['verb'];
35         }
36         return ACTIVITY_POST;
37 }
38
39 /* limit_body_size()
40  *
41  *              The purpose of this function is to apply system message length limits to
42  *              imported messages without including any embedded photos in the length
43  */
44 if (! function_exists('limit_body_size')) {
45 function limit_body_size($body) {
46
47 //      logger('limit_body_size: start', LOGGER_DEBUG);
48
49         $maxlen = get_max_import_size();
50
51         // If the length of the body, including the embedded images, is smaller
52         // than the maximum, then don't waste time looking for the images
53         if ($maxlen && (strlen($body) > $maxlen)) {
54
55                 logger('limit_body_size: the total body length exceeds the limit', LOGGER_DEBUG);
56
57                 $orig_body = $body;
58                 $new_body = '';
59                 $textlen = 0;
60                 $max_found = false;
61
62                 $img_start = strpos($orig_body, '[img');
63                 $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
64                 $img_end = ($img_start !== false ? strpos(substr($orig_body, $img_start), '[/img]') : false);
65                 while (($img_st_close !== false) && ($img_end !== false)) {
66
67                         $img_st_close++; // make it point to AFTER the closing bracket
68                         $img_end += $img_start;
69                         $img_end += strlen('[/img]');
70
71                         if (! strcmp(substr($orig_body, $img_start + $img_st_close, 5), 'data:')) {
72                                 // This is an embedded image
73
74                                 if (($textlen + $img_start) > $maxlen ) {
75                                         if ($textlen < $maxlen) {
76                                                 logger('limit_body_size: the limit happens before an embedded image', LOGGER_DEBUG);
77                                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
78                                                 $textlen = $maxlen;
79                                         }
80                                 } else {
81                                         $new_body = $new_body . substr($orig_body, 0, $img_start);
82                                         $textlen += $img_start;
83                                 }
84
85                                 $new_body = $new_body . substr($orig_body, $img_start, $img_end - $img_start);
86                         } else {
87
88                                 if (($textlen + $img_end) > $maxlen ) {
89                                         if ($textlen < $maxlen) {
90                                                 logger('limit_body_size: the limit happens before the end of a non-embedded image', LOGGER_DEBUG);
91                                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
92                                                 $textlen = $maxlen;
93                                         }
94                                 } else {
95                                         $new_body = $new_body . substr($orig_body, 0, $img_end);
96                                         $textlen += $img_end;
97                                 }
98                         }
99                         $orig_body = substr($orig_body, $img_end);
100
101                         if ($orig_body === false) {
102                                 // in case the body ends on a closing image tag
103                                 $orig_body = '';
104                         }
105
106                         $img_start = strpos($orig_body, '[img');
107                         $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
108                         $img_end = ($img_start !== false ? strpos(substr($orig_body, $img_start), '[/img]') : false);
109                 }
110
111                 if (($textlen + strlen($orig_body)) > $maxlen) {
112                         if ($textlen < $maxlen) {
113                                 logger('limit_body_size: the limit happens after the end of the last image', LOGGER_DEBUG);
114                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
115                                 $textlen = $maxlen;
116                         }
117                 } else {
118                         logger('limit_body_size: the text size with embedded images extracted did not violate the limit', LOGGER_DEBUG);
119                         $new_body = $new_body . $orig_body;
120                         $textlen += strlen($orig_body);
121                 }
122
123                 return $new_body;
124         } else {
125                 return $body;
126         }
127 }}
128
129 function title_is_body($title, $body) {
130
131         $title = strip_tags($title);
132         $title = trim($title);
133         $title = html_entity_decode($title, ENT_QUOTES, 'UTF-8');
134         $title = str_replace(array("\n", "\r", "\t", " "), array("", "", "", ""), $title);
135
136         $body = strip_tags($body);
137         $body = trim($body);
138         $body = html_entity_decode($body, ENT_QUOTES, 'UTF-8');
139         $body = str_replace(array("\n", "\r", "\t", " "), array("", "", "", ""), $body);
140
141         if (strlen($title) < strlen($body)) {
142                 $body = substr($body, 0, strlen($title));
143         }
144
145         if (($title != $body) && (substr($title, -3) == "...")) {
146                 $pos = strrpos($title, "...");
147                 if ($pos > 0) {
148                         $title = substr($title, 0, $pos);
149                         $body = substr($body, 0, $pos);
150                 }
151         }
152
153         return ($title == $body);
154 }
155
156 function add_page_info_data($data) {
157         call_hooks('page_info_data', $data);
158
159         // It maybe is a rich content, but if it does have everything that a link has,
160         // then treat it that way
161         if (($data["type"] == "rich") && is_string($data["title"]) &&
162                 is_string($data["text"]) && (sizeof($data["images"]) > 0)) {
163                 $data["type"] = "link";
164         }
165
166         if ((($data["type"] != "link") && ($data["type"] != "video") && ($data["type"] != "photo")) || ($data["title"] == $data["url"])) {
167                 return "";
168         }
169
170         if ($no_photos && ($data["type"] == "photo")) {
171                 return "";
172         }
173
174         if (sizeof($data["images"]) > 0) {
175                 $preview = $data["images"][0];
176         } else {
177                 $preview = "";
178         }
179
180         // Escape some bad characters
181         $data["url"] = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["url"], ENT_QUOTES, 'UTF-8', false));
182         $data["title"] = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["title"], ENT_QUOTES, 'UTF-8', false));
183
184         $text = "[attachment type='".$data["type"]."'";
185
186         if ($data["text"] == "") {
187                 $data["text"] = $data["title"];
188         }
189
190         if ($data["text"] == "") {
191                 $data["text"] = $data["url"];
192         }
193
194         if ($data["url"] != "") {
195                 $text .= " url='".$data["url"]."'";
196         }
197
198         if ($data["title"] != "") {
199                 $text .= " title='".$data["title"]."'";
200         }
201
202         if (sizeof($data["images"]) > 0) {
203                 $preview = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["images"][0]["src"], ENT_QUOTES, 'UTF-8', false));
204                 // if the preview picture is larger than 500 pixels then show it in a larger mode
205                 // But only, if the picture isn't higher than large (To prevent huge posts)
206                 if (!Config::get('system', 'always_show_preview') && ($data["images"][0]["width"] >= 500)
207                         && ($data["images"][0]["width"] >= $data["images"][0]["height"])) {
208                         $text .= " image='".$preview."'";
209                 } else {
210                         $text .= " preview='".$preview."'";
211                 }
212         }
213
214         $text .= "]".$data["text"]."[/attachment]";
215
216         $hashtags = "";
217         if (isset($data["keywords"]) && count($data["keywords"])) {
218                 $hashtags = "\n";
219                 foreach ($data["keywords"] AS $keyword) {
220                         /// @todo make a positive list of allowed characters
221                         $hashtag = str_replace(array(" ", "+", "/", ".", "#", "'", "’", "`", "(", ")", "„", "“"),
222                                                 array("", "", "", "", "", "", "", "", "", "", "", ""), $keyword);
223                         $hashtags .= "#[url=" . System::baseUrl() . "/search?tag=" . rawurlencode($hashtag) . "]" . $hashtag . "[/url] ";
224                 }
225         }
226
227         return "\n".$text.$hashtags;
228 }
229
230 function query_page_info($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
231
232         $data = ParseUrl::getSiteinfoCached($url, true);
233
234         if ($photo != "") {
235                 $data["images"][0]["src"] = $photo;
236         }
237
238         logger('fetch page info for ' . $url . ' ' . print_r($data, true), LOGGER_DEBUG);
239
240         if (!$keywords && isset($data["keywords"])) {
241                 unset($data["keywords"]);
242         }
243
244         if (($keyword_blacklist != "") && isset($data["keywords"])) {
245                 $list = explode(", ", $keyword_blacklist);
246                 foreach ($list AS $keyword) {
247                         $keyword = trim($keyword);
248                         $index = array_search($keyword, $data["keywords"]);
249                         if ($index !== false) {
250                                 unset($data["keywords"][$index]);
251                         }
252                 }
253         }
254
255         return $data;
256 }
257
258 function add_page_keywords($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
259         $data = query_page_info($url, $no_photos, $photo, $keywords, $keyword_blacklist);
260
261         $tags = "";
262         if (isset($data["keywords"]) && count($data["keywords"])) {
263                 foreach ($data["keywords"] AS $keyword) {
264                         $hashtag = str_replace(array(" ", "+", "/", ".", "#", "'"),
265                                 array("", "", "", "", "", ""), $keyword);
266
267                         if ($tags != "") {
268                                 $tags .= ", ";
269                         }
270
271                         $tags .= "#[url=" . System::baseUrl() . "/search?tag=" . rawurlencode($hashtag) . "]" . $hashtag . "[/url]";
272                 }
273         }
274
275         return $tags;
276 }
277
278 function add_page_info($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
279         $data = query_page_info($url, $no_photos, $photo, $keywords, $keyword_blacklist);
280
281         $text = add_page_info_data($data);
282
283         return $text;
284 }
285
286 function add_page_info_to_body($body, $texturl = false, $no_photos = false) {
287
288         logger('add_page_info_to_body: fetch page info for body ' . $body, LOGGER_DEBUG);
289
290         $URLSearchString = "^\[\]";
291
292         // Fix for Mastodon where the mentions are in a different format
293         $body = preg_replace("/\[url\=([$URLSearchString]*)\]([#!@])(.*?)\[\/url\]/ism",
294                 '$2[url=$1]$3[/url]', $body);
295
296         // Adding these spaces is a quick hack due to my problems with regular expressions :)
297         preg_match("/[^!#@]\[url\]([$URLSearchString]*)\[\/url\]/ism", " " . $body, $matches);
298
299         if (!$matches) {
300                 preg_match("/[^!#@]\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism", " " . $body, $matches);
301         }
302
303         // Convert urls without bbcode elements
304         if (!$matches && $texturl) {
305                 preg_match("/([^\]\='".'"'."]|^)(https?\:\/\/[a-zA-Z0-9\:\/\-\?\&\;\.\=\_\~\#\%\$\!\+\,]+)/ism", " ".$body, $matches);
306
307                 // Yeah, a hack. I really hate regular expressions :)
308                 if ($matches) {
309                         $matches[1] = $matches[2];
310                 }
311         }
312
313         if ($matches) {
314                 $footer = add_page_info($matches[1], $no_photos);
315         }
316
317         // Remove the link from the body if the link is attached at the end of the post
318         if (isset($footer) && (trim($footer) != "") && (strpos($footer, $matches[1]))) {
319                 $removedlink = trim(str_replace($matches[1], "", $body));
320                 if (($removedlink == "") || strstr($body, $removedlink)) {
321                         $body = $removedlink;
322                 }
323
324                 $url = str_replace(array('/', '.'), array('\/', '\.'), $matches[1]);
325                 $removedlink = preg_replace("/\[url\=" . $url . "\](.*?)\[\/url\]/ism", '', $body);
326                 if (($removedlink == "") || strstr($body, $removedlink)) {
327                         $body = $removedlink;
328                 }
329         }
330
331         // Add the page information to the bottom
332         if (isset($footer) && (trim($footer) != "")) {
333                 $body .= $footer;
334         }
335
336         return $body;
337 }
338
339 /**
340  * Adds a "lang" specification in a "postopts" element of given $arr,
341  * if possible and not already present.
342  * Expects "body" element to exist in $arr.
343  *
344  * @todo Add a parameter to request forcing override
345  */
346 function item_add_language_opt(&$arr) {
347
348         if (version_compare(PHP_VERSION, '5.3.0', '<')) {
349                  // LanguageDetect.php not available ?
350                 return;
351         }
352
353         if (x($arr, 'postopts') ) {
354                 if (strstr($arr['postopts'], 'lang=') ) {
355                         // do not override
356                         /// @TODO Add parameter to request overriding
357                         return;
358                 }
359                 $postopts = $arr['postopts'];
360         } else {
361                 $postopts = "";
362         }
363
364         $naked_body = preg_replace('/\[(.+?)\]/','', $arr['body']);
365         $l = new Text_LanguageDetect();
366         $lng = $l->detect($naked_body, 3);
367
368         if (sizeof($lng) > 0) {
369                 if ($postopts != "") $postopts .= '&'; // arbitrary separator, to be reviewed
370                 $postopts .= 'lang=';
371                 $sep = "";
372                 foreach ($lng as $language => $score) {
373                         $postopts .= $sep . $language . ";" . $score;
374                         $sep = ':';
375                 }
376                 $arr['postopts'] = $postopts;
377         }
378 }
379
380 /**
381  * @brief Creates an unique guid out of a given uri
382  *
383  * @param string $uri uri of an item entry
384  * @param string $host (Optional) hostname for the GUID prefix
385  * @return string unique guid
386  */
387 function uri_to_guid($uri, $host = "") {
388
389         // Our regular guid routine is using this kind of prefix as well
390         // We have to avoid that different routines could accidentally create the same value
391         $parsed = parse_url($uri);
392
393         // When the hostname isn't given, we take it from the uri
394         if ($host == "") {
395                 // Is it in the format data@host.tld?
396                 if ((count($parsed) == 1) && strstr($uri, '@')) {
397                         $mailparts = explode('@', $uri);
398                         $host = array_pop($mailparts);
399                 } else {
400                         $host = $parsed["host"];
401                 }
402         }
403
404         // We use a hash of the hostname as prefix for the guid
405         $guid_prefix = hash("crc32", $host);
406
407         // Remove the scheme to make sure that "https" and "http" doesn't make a difference
408         unset($parsed["scheme"]);
409
410         // Glue it together to be able to make a hash from it
411         $host_id = implode("/", $parsed);
412
413         // We could use any hash algorithm since it isn't a security issue
414         $host_hash = hash("ripemd128", $host_id);
415
416         return $guid_prefix.$host_hash;
417 }
418
419 /**
420  * @brief Store the conversation data
421  *
422  * @param array $arr Item array with conversation data
423  * @return array Item array with removed conversation data
424  */
425 function store_conversation($arr) {
426         if (in_array($arr['network'], array(NETWORK_DFRN, NETWORK_DIASPORA, NETWORK_OSTATUS)) && !empty($arr['uri'])) {
427                 $conversation = array('item-uri' => $arr['uri'], 'received' => DBM::date());
428
429                 if (isset($arr['parent-uri']) && ($arr['parent-uri'] != $arr['uri'])) {
430                         $conversation['reply-to-uri'] = $arr['parent-uri'];
431                 }
432                 if (isset($arr['thr-parent']) && ($arr['thr-parent'] != $arr['uri'])) {
433                         $conversation['reply-to-uri'] = $arr['thr-parent'];
434                 }
435
436                 if (isset($arr['conversation-uri'])) {
437                         $conversation['conversation-uri'] = $arr['conversation-uri'];
438                 }
439
440                 if (isset($arr['conversation-href'])) {
441                         $conversation['conversation-href'] = $arr['conversation-href'];
442                 }
443
444                 if (isset($arr['protocol'])) {
445                         $conversation['protocol'] = $arr['protocol'];
446                 }
447
448                 if (isset($arr['source'])) {
449                         $conversation['source'] = $arr['source'];
450                 }
451
452                 $old_conv = dba::fetch_first("SELECT `item-uri`, `reply-to-uri`, `conversation-uri`, `conversation-href`, `protocol`, `source`
453                                 FROM `conversation` WHERE `item-uri` = ?", $conversation['item-uri']);
454                 if (DBM::is_result($old_conv)) {
455                         // Don't update when only the source has changed.
456                         // Only do this when there had been no source before.
457                         if ($old_conv['source'] != '') {
458                                 unset($old_conv['source']);
459                         }
460                         // Update structure data all the time but the source only when its from a better protocol.
461                         if (($old_conv['protocol'] < $conversation['protocol']) && ($old_conv['protocol'] != 0)) {
462                                 unset($conversation['protocol']);
463                                 unset($conversation['source']);
464                         }
465                         if (!dba::update('conversation', $conversation, array('item-uri' => $conversation['item-uri']), $old_conv)) {
466                                 logger('Conversation: update for '.$conversation['item-uri'].' from '.$conv['protocol'].' to '.$conversation['protocol'].' failed', LOGGER_DEBUG);
467                         }
468                 } else {
469                         if (!dba::insert('conversation', $conversation, true)) {
470                                 logger('Conversation: insert for '.$conversation['item-uri'].' (protocol '.$conversation['protocol'].') failed', LOGGER_DEBUG);
471                         }
472                 }
473         }
474
475         unset($arr['conversation-uri']);
476         unset($arr['conversation-href']);
477         unset($arr['protocol']);
478         unset($arr['source']);
479
480         return $arr;
481 }
482
483 /// @TODO add type-hint array
484 function item_store($arr, $force_parent = false, $notify = false, $dontcache = false) {
485
486         $a = get_app();
487
488         // If it is a posting where users should get notifications, then define it as wall posting
489         if ($notify) {
490                 $arr['wall'] = 1;
491                 $arr['type'] = 'wall';
492                 $arr['origin'] = 1;
493                 $arr['last-child'] = 1;
494                 $arr['network'] = NETWORK_DFRN;
495                 $arr['protocol'] = PROTOCOL_DFRN;
496
497                 // We have to avoid duplicates. So we create the GUID in form of a hash of the plink or uri.
498                 // In difference to the call to "uri_to_guid" several lines below we add the hash of our own host.
499                 // This is done because our host is the original creator of the post.
500                 if (!isset($arr['guid'])) {
501                         if (isset($arr['plink'])) {
502                                 $arr['guid'] = uri_to_guid($arr['plink'], $a->get_hostname());
503                         } elseif (isset($arr['uri'])) {
504                                 $arr['guid'] = uri_to_guid($arr['uri'], $a->get_hostname());
505                         }
506                 }
507         }
508
509         if ($notify) {
510                 $guid_prefix = "";
511         } elseif ((trim($arr['guid']) == "") && (trim($arr['plink']) != "")) {
512                 $arr['guid'] = uri_to_guid($arr['plink']);
513         } elseif ((trim($arr['guid']) == "") && (trim($arr['uri']) != "")) {
514                 $arr['guid'] = uri_to_guid($arr['uri']);
515         } else {
516                 $parsed = parse_url($arr["author-link"]);
517                 $guid_prefix = hash("crc32", $parsed["host"]);
518         }
519
520         $arr['guid']          = ((x($arr, 'guid'))          ? notags(trim($arr['guid']))          : get_guid(32, $guid_prefix));
521         $arr['uri']           = ((x($arr, 'uri'))           ? notags(trim($arr['uri']))           : item_new_uri($a->get_hostname(), $uid, $arr['guid']));
522
523         // Store conversation data
524         $arr = store_conversation($arr);
525
526         /*
527          * If a Diaspora signature structure was passed in, pull it out of the
528          * item array and set it aside for later storage.
529          */
530
531         $dsprsig = null;
532         if (x($arr, 'dsprsig')) {
533                 $encoded_signature = $arr['dsprsig'];
534                 $dsprsig = json_decode(base64_decode($arr['dsprsig']));
535                 unset($arr['dsprsig']);
536         }
537
538         // Converting the plink
539         /// @todo Check if this is really still needed
540         if ($arr['network'] == NETWORK_OSTATUS) {
541                 if (isset($arr['plink'])) {
542                         $arr['plink'] = OStatus::convertHref($arr['plink']);
543                 } elseif (isset($arr['uri'])) {
544                         $arr['plink'] = OStatus::convertHref($arr['uri']);
545                 }
546         }
547
548         if (x($arr, 'gravity')) {
549                 $arr['gravity'] = intval($arr['gravity']);
550         } elseif ($arr['parent-uri'] === $arr['uri']) {
551                 $arr['gravity'] = 0;
552         } elseif (activity_match($arr['verb'],ACTIVITY_POST)) {
553                 $arr['gravity'] = 6;
554         } else {
555                 $arr['gravity'] = 6;   // extensible catchall
556         }
557
558         if (! x($arr, 'type')) {
559                 $arr['type']      = 'remote';
560         }
561
562         $uid = intval($arr['uid']);
563
564         // check for create date and expire time
565         $expire_interval = Config::get('system', 'dbclean-expire-days', 0);
566
567         $r = dba::select('user', array('expire'), array('uid' => $uid), array("limit" => 1));
568         if (DBM::is_result($r) && ($r['expire'] > 0) && (($r['expire'] < $expire_interval) || ($expire_interval == 0))) {
569                 $expire_interval = $r['expire'];
570         }
571
572         if (($expire_interval > 0) && !empty($arr['created'])) {
573                 $expire_date = time() - ($expire_interval * 86400);
574                 $created_date = strtotime($arr['created']);
575                 if ($created_date < $expire_date) {
576                         logger('item-store: item created ('.date('c', $created_date).') before expiration time ('.date('c', $expire_date).'). ignored. ' . print_r($arr,true), LOGGER_DEBUG);
577                         return 0;
578                 }
579         }
580
581         /*
582          * Do we already have this item?
583          * We have to check several networks since Friendica posts could be repeated
584          * via OStatus (maybe Diasporsa as well)
585          */
586         if (in_array(trim($arr['network']), array(NETWORK_DIASPORA, NETWORK_DFRN, NETWORK_OSTATUS, ""))) {
587                 $r = q("SELECT `id`, `network` FROM `item` WHERE `uri` = '%s' AND `uid` = %d AND `network` IN ('%s', '%s', '%s')  LIMIT 1",
588                                 dbesc(trim($arr['uri'])),
589                                 intval($uid),
590                                 dbesc(NETWORK_DIASPORA),
591                                 dbesc(NETWORK_DFRN),
592                                 dbesc(NETWORK_OSTATUS)
593                         );
594                 if (DBM::is_result($r)) {
595                         // We only log the entries with a different user id than 0. Otherwise we would have too many false positives
596                         if ($uid != 0) {
597                                 logger("Item with uri ".$arr['uri']." already existed for user ".$uid." with id ".$r[0]["id"]." target network ".$r[0]["network"]." - new network: ".$arr['network']);
598                         }
599
600                         return $r[0]["id"];
601                 }
602         }
603
604         /// @TODO old-lost code?
605         // Shouldn't happen but we want to make absolutely sure it doesn't leak from a plugin.
606         // Deactivated, since the bbcode parser can handle with it - and it destroys posts with some smileys that contain "<"
607         //if ((strpos($arr['body'],'<') !== false) || (strpos($arr['body'],'>') !== false))
608         //      $arr['body'] = strip_tags($arr['body']);
609
610         item_add_language_opt($arr);
611
612         $arr['wall']          = ((x($arr, 'wall'))          ? intval($arr['wall'])                : 0);
613         $arr['extid']         = ((x($arr, 'extid'))         ? notags(trim($arr['extid']))         : '');
614         $arr['author-name']   = ((x($arr, 'author-name'))   ? trim($arr['author-name'])   : '');
615         $arr['author-link']   = ((x($arr, 'author-link'))   ? notags(trim($arr['author-link']))   : '');
616         $arr['author-avatar'] = ((x($arr, 'author-avatar')) ? notags(trim($arr['author-avatar'])) : '');
617         $arr['owner-name']    = ((x($arr, 'owner-name'))    ? trim($arr['owner-name'])    : '');
618         $arr['owner-link']    = ((x($arr, 'owner-link'))    ? notags(trim($arr['owner-link']))    : '');
619         $arr['owner-avatar']  = ((x($arr, 'owner-avatar'))  ? notags(trim($arr['owner-avatar']))  : '');
620         $arr['received']      = ((x($arr, 'received') !== false) ? datetime_convert('UTC','UTC', $arr['received']) : datetime_convert());
621         $arr['created']       = ((x($arr, 'created') !== false) ? datetime_convert('UTC','UTC', $arr['created']) : $arr['received']);
622         $arr['edited']        = ((x($arr, 'edited') !== false) ? datetime_convert('UTC','UTC', $arr['edited']) : $arr['created']);
623         $arr['changed']       = ((x($arr, 'changed') !== false) ? datetime_convert('UTC','UTC', $arr['changed']) : $arr['created']);
624         $arr['commented']     = ((x($arr, 'commented') !== false) ? datetime_convert('UTC','UTC', $arr['commented']) : $arr['created']);
625         $arr['title']         = ((x($arr, 'title'))         ? trim($arr['title'])         : '');
626         $arr['location']      = ((x($arr, 'location'))      ? trim($arr['location'])      : '');
627         $arr['coord']         = ((x($arr, 'coord'))         ? notags(trim($arr['coord']))         : '');
628         $arr['last-child']    = ((x($arr, 'last-child'))    ? intval($arr['last-child'])          : 0 );
629         $arr['visible']       = ((x($arr, 'visible') !== false) ? intval($arr['visible'])         : 1 );
630         $arr['deleted']       = 0;
631         $arr['parent-uri']    = ((x($arr, 'parent-uri'))    ? notags(trim($arr['parent-uri']))    : $arr['uri']);
632         $arr['verb']          = ((x($arr, 'verb'))          ? notags(trim($arr['verb']))          : '');
633         $arr['object-type']   = ((x($arr, 'object-type'))   ? notags(trim($arr['object-type']))   : '');
634         $arr['object']        = ((x($arr, 'object'))        ? trim($arr['object'])                : '');
635         $arr['target-type']   = ((x($arr, 'target-type'))   ? notags(trim($arr['target-type']))   : '');
636         $arr['target']        = ((x($arr, 'target'))        ? trim($arr['target'])                : '');
637         $arr['plink']         = ((x($arr, 'plink'))         ? notags(trim($arr['plink']))         : '');
638         $arr['allow_cid']     = ((x($arr, 'allow_cid'))     ? trim($arr['allow_cid'])             : '');
639         $arr['allow_gid']     = ((x($arr, 'allow_gid'))     ? trim($arr['allow_gid'])             : '');
640         $arr['deny_cid']      = ((x($arr, 'deny_cid'))      ? trim($arr['deny_cid'])              : '');
641         $arr['deny_gid']      = ((x($arr, 'deny_gid'))      ? trim($arr['deny_gid'])              : '');
642         $arr['private']       = ((x($arr, 'private'))       ? intval($arr['private'])             : 0 );
643         $arr['bookmark']      = ((x($arr, 'bookmark'))      ? intval($arr['bookmark'])            : 0 );
644         $arr['body']          = ((x($arr, 'body'))          ? trim($arr['body'])                  : '');
645         $arr['tag']           = ((x($arr, 'tag'))           ? notags(trim($arr['tag']))           : '');
646         $arr['attach']        = ((x($arr, 'attach'))        ? notags(trim($arr['attach']))        : '');
647         $arr['app']           = ((x($arr, 'app'))           ? notags(trim($arr['app']))           : '');
648         $arr['origin']        = ((x($arr, 'origin'))        ? intval($arr['origin'])              : 0 );
649         $arr['network']       = ((x($arr, 'network'))       ? trim($arr['network'])               : '');
650         $arr['postopts']      = ((x($arr, 'postopts'))      ? trim($arr['postopts'])              : '');
651         $arr['resource-id']   = ((x($arr, 'resource-id'))   ? trim($arr['resource-id'])           : '');
652         $arr['event-id']      = ((x($arr, 'event-id'))      ? intval($arr['event-id'])            : 0 );
653         $arr['inform']        = ((x($arr, 'inform'))        ? trim($arr['inform'])                : '');
654         $arr['file']          = ((x($arr, 'file'))          ? trim($arr['file'])                  : '');
655
656         // When there is no content then we don't post it
657         if ($arr['body'].$arr['title'] == '') {
658                 return 0;
659         }
660
661         // Items cannot be stored before they happen ...
662         if ($arr['created'] > datetime_convert()) {
663                 $arr['created'] = datetime_convert();
664         }
665
666         // We haven't invented time travel by now.
667         if ($arr['edited'] > datetime_convert()) {
668                 $arr['edited'] = datetime_convert();
669         }
670
671         if (($arr['author-link'] == "") && ($arr['owner-link'] == "")) {
672                 logger("Both author-link and owner-link are empty. Called by: " . System::callstack(), LOGGER_DEBUG);
673         }
674
675         if ($arr['plink'] == "") {
676                 $arr['plink'] = System::baseUrl() . '/display/' . urlencode($arr['guid']);
677         }
678
679         if ($arr['network'] == "") {
680                 $r = q("SELECT `network` FROM `contact` WHERE `network` IN ('%s', '%s', '%s') AND `nurl` = '%s' AND `uid` = %d LIMIT 1",
681                         dbesc(NETWORK_DFRN), dbesc(NETWORK_DIASPORA), dbesc(NETWORK_OSTATUS),
682                         dbesc(normalise_link($arr['author-link'])),
683                         intval($arr['uid'])
684                 );
685
686                 if (!DBM::is_result($r))
687                         $r = q("SELECT `network` FROM `gcontact` WHERE `network` IN ('%s', '%s', '%s') AND `nurl` = '%s' LIMIT 1",
688                                 dbesc(NETWORK_DFRN), dbesc(NETWORK_DIASPORA), dbesc(NETWORK_OSTATUS),
689                                 dbesc(normalise_link($arr['author-link']))
690                         );
691
692                 if (!DBM::is_result($r)) {
693                         $r = q("SELECT `network` FROM `contact` WHERE `id` = %d AND `uid` = %d LIMIT 1",
694                                 intval($arr['contact-id']),
695                                 intval($arr['uid'])
696                         );
697                 }
698
699                 if (DBM::is_result($r)) {
700                         $arr['network'] = $r[0]["network"];
701                 }
702
703                 // Fallback to friendica (why is it empty in some cases?)
704                 if ($arr['network'] == "") {
705                         $arr['network'] = NETWORK_DFRN;
706                 }
707
708                 logger("item_store: Set network to " . $arr["network"] . " for " . $arr["uri"], LOGGER_DEBUG);
709         }
710
711         // The contact-id should be set before "item_store" was called - but there seems to be some issues
712         if ($arr["contact-id"] == 0) {
713                 /*
714                  * First we are looking for a suitable contact that matches with the author of the post
715                  * This is done only for comments (See below explanation at "gcontact-id")
716                  */
717                 if ($arr['parent-uri'] != $arr['uri']) {
718                         $arr["contact-id"] = Contact::getIdForURL($arr['author-link'], $uid);
719                 }
720
721                 // If not present then maybe the owner was found
722                 if ($arr["contact-id"] == 0) {
723                         $arr["contact-id"] = Contact::getIdForURL($arr['owner-link'], $uid);
724                 }
725
726                 // Still missing? Then use the "self" contact of the current user
727                 if ($arr["contact-id"] == 0) {
728                         $r = q("SELECT `id` FROM `contact` WHERE `self` AND `uid` = %d", intval($uid));
729
730                         if (DBM::is_result($r)) {
731                                 $arr["contact-id"] = $r[0]["id"];
732                         }
733                 }
734
735                 logger("Contact-id was missing for post ".$arr["guid"]." from user id ".$uid." - now set to ".$arr["contact-id"], LOGGER_DEBUG);
736         }
737
738         if ($arr["gcontact-id"] == 0) {
739                 /*
740                  * The gcontact should mostly behave like the contact. But is is supposed to be global for the system.
741                  * This means that wall posts, repeated posts, etc. should have the gcontact id of the owner.
742                  * On comments the author is the better choice.
743                  */
744                 if ($arr['parent-uri'] === $arr['uri']) {
745                         $arr["gcontact-id"] = GlobalContact::getId(array("url" => $arr['owner-link'], "network" => $arr['network'],
746                                                                  "photo" => $arr['owner-avatar'], "name" => $arr['owner-name']));
747                 } else {
748                         $arr["gcontact-id"] = GlobalContact::getId(array("url" => $arr['author-link'], "network" => $arr['network'],
749                                                                  "photo" => $arr['author-avatar'], "name" => $arr['author-name']));
750                 }
751         }
752
753         if ($arr["author-id"] == 0) {
754                 $arr["author-id"] = Contact::getIdForURL($arr["author-link"], 0);
755         }
756
757         if (Contact::isBlocked($arr["author-id"])) {
758                 logger('Contact '.$arr["author-id"].' is blocked, item '.$arr["uri"].' will not be stored');
759                 return 0;
760         }
761
762         if ($arr["owner-id"] == 0) {
763                 $arr["owner-id"] = Contact::getIdForURL($arr["owner-link"], 0);
764         }
765
766         if (Contact::isBlocked($arr["owner-id"])) {
767                 logger('Contact '.$arr["owner-id"].' is blocked, item '.$arr["uri"].' will not be stored');
768                 return 0;
769         }
770
771         if ($arr['guid'] != "") {
772                 // Checking if there is already an item with the same guid
773                 logger('checking for an item for user '.$arr['uid'].' on network '.$arr['network'].' with the guid '.$arr['guid'], LOGGER_DEBUG);
774                 $r = q("SELECT `guid` FROM `item` WHERE `guid` = '%s' AND `network` = '%s' AND `uid` = '%d' LIMIT 1",
775                         dbesc($arr['guid']), dbesc($arr['network']), intval($arr['uid']));
776
777                 if (DBM::is_result($r)) {
778                         logger('found item with guid '.$arr['guid'].' for user '.$arr['uid'].' on network '.$arr['network'], LOGGER_DEBUG);
779                         return 0;
780                 }
781         }
782
783         // Check for hashtags in the body and repair or add hashtag links
784         item_body_set_hashtags($arr);
785
786         $arr['thr-parent'] = $arr['parent-uri'];
787
788         if ($arr['parent-uri'] === $arr['uri']) {
789                 $parent_id = 0;
790                 $parent_deleted = 0;
791                 $allow_cid = $arr['allow_cid'];
792                 $allow_gid = $arr['allow_gid'];
793                 $deny_cid  = $arr['deny_cid'];
794                 $deny_gid  = $arr['deny_gid'];
795                 $notify_type = 'wall-new';
796         } else {
797
798                 // find the parent and snarf the item id and ACLs
799                 // and anything else we need to inherit
800
801                 $r = q("SELECT * FROM `item` WHERE `uri` = '%s' AND `uid` = %d ORDER BY `id` ASC LIMIT 1",
802                         dbesc($arr['parent-uri']),
803                         intval($arr['uid'])
804                 );
805
806                 if (DBM::is_result($r)) {
807
808                         // is the new message multi-level threaded?
809                         // even though we don't support it now, preserve the info
810                         // and re-attach to the conversation parent.
811
812                         if ($r[0]['uri'] != $r[0]['parent-uri']) {
813                                 $arr['parent-uri'] = $r[0]['parent-uri'];
814                                 $z = q("SELECT * FROM `item` WHERE `uri` = '%s' AND `parent-uri` = '%s' AND `uid` = %d
815                                         ORDER BY `id` ASC LIMIT 1",
816                                         dbesc($r[0]['parent-uri']),
817                                         dbesc($r[0]['parent-uri']),
818                                         intval($arr['uid'])
819                                 );
820
821                                 if (DBM::is_result($z)) {
822                                         $r = $z;
823                                 }
824                         }
825
826                         $parent_id      = $r[0]['id'];
827                         $parent_deleted = $r[0]['deleted'];
828                         $allow_cid      = $r[0]['allow_cid'];
829                         $allow_gid      = $r[0]['allow_gid'];
830                         $deny_cid       = $r[0]['deny_cid'];
831                         $deny_gid       = $r[0]['deny_gid'];
832                         $arr['wall']    = $r[0]['wall'];
833                         $notify_type    = 'comment-new';
834
835                         /*
836                          * If the parent is private, force privacy for the entire conversation
837                          * This differs from the above settings as it subtly allows comments from
838                          * email correspondents to be private even if the overall thread is not.
839                          */
840                         if ($r[0]['private']) {
841                                 $arr['private'] = $r[0]['private'];
842                         }
843
844                         /*
845                          * Edge case. We host a public forum that was originally posted to privately.
846                          * The original author commented, but as this is a comment, the permissions
847                          * weren't fixed up so it will still show the comment as private unless we fix it here.
848                          */
849                         if ((intval($r[0]['forum_mode']) == 1) && $r[0]['private']) {
850                                 $arr['private'] = 0;
851                         }
852
853                         // If its a post from myself then tag the thread as "mention"
854                         logger("item_store: Checking if parent ".$parent_id." has to be tagged as mention for user ".$arr['uid'], LOGGER_DEBUG);
855                         $u = q("SELECT `nickname` FROM `user` WHERE `uid` = %d", intval($arr['uid']));
856                         if (DBM::is_result($u)) {
857                                 $a = get_app();
858                                 $self = normalise_link(System::baseUrl() . '/profile/' . $u[0]['nickname']);
859                                 logger("item_store: 'myself' is ".$self." for parent ".$parent_id." checking against ".$arr['author-link']." and ".$arr['owner-link'], LOGGER_DEBUG);
860                                 if ((normalise_link($arr['author-link']) == $self) || (normalise_link($arr['owner-link']) == $self)) {
861                                         dba::update('thread', array('mention' => true), array('iid' => $parent_id));
862                                         logger("item_store: tagged thread ".$parent_id." as mention for user ".$self, LOGGER_DEBUG);
863                                 }
864                         }
865                 } else {
866                         /*
867                          * Allow one to see reply tweets from status.net even when
868                          * we don't have or can't see the original post.
869                          */
870                         if ($force_parent) {
871                                 logger('item_store: $force_parent=true, reply converted to top-level post.');
872                                 $parent_id = 0;
873                                 $arr['parent-uri'] = $arr['uri'];
874                                 $arr['gravity'] = 0;
875                         } else {
876                                 logger('item_store: item parent '.$arr['parent-uri'].' for '.$arr['uid'].' was not found - ignoring item');
877                                 return 0;
878                         }
879
880                         $parent_deleted = 0;
881                 }
882         }
883
884         $r = q("SELECT `id` FROM `item` WHERE `uri` = '%s' AND `network` IN ('%s', '%s') AND `uid` = %d LIMIT 1",
885                 dbesc($arr['uri']),
886                 dbesc($arr['network']),
887                 dbesc(NETWORK_DFRN),
888                 intval($arr['uid'])
889         );
890         if (DBM::is_result($r)) {
891                 logger('duplicated item with the same uri found. '.print_r($arr,true));
892                 return 0;
893         }
894
895         // On Friendica and Diaspora the GUID is unique
896         if (in_array($arr['network'], array(NETWORK_DFRN, NETWORK_DIASPORA))) {
897                 $r = q("SELECT `id` FROM `item` WHERE `guid` = '%s' AND `uid` = %d LIMIT 1",
898                         dbesc($arr['guid']),
899                         intval($arr['uid'])
900                 );
901                 if (DBM::is_result($r)) {
902                         logger('duplicated item with the same guid found. '.print_r($arr,true));
903                         return 0;
904                 }
905         } else {
906                 // Check for an existing post with the same content. There seems to be a problem with OStatus.
907                 $r = q("SELECT `id` FROM `item` WHERE `body` = '%s' AND `network` = '%s' AND `created` = '%s' AND `contact-id` = %d AND `uid` = %d LIMIT 1",
908                         dbesc($arr['body']),
909                         dbesc($arr['network']),
910                         dbesc($arr['created']),
911                         intval($arr['contact-id']),
912                         intval($arr['uid'])
913                 );
914                 if (DBM::is_result($r)) {
915                         logger('duplicated item with the same body found. '.print_r($arr,true));
916                         return 0;
917                 }
918         }
919
920         // Is this item available in the global items (with uid=0)?
921         if ($arr["uid"] == 0) {
922                 $arr["global"] = true;
923
924                 // Set the global flag on all items if this was a global item entry
925                 dba::update('item', array('global' => true), array('uri' => $arr["uri"]));
926         } else {
927                 $isglobal = q("SELECT `global` FROM `item` WHERE `uid` = 0 AND `uri` = '%s'", dbesc($arr["uri"]));
928
929                 $arr["global"] = (DBM::is_result($isglobal) && count($isglobal) > 0);
930         }
931
932         // ACL settings
933         if (strlen($allow_cid) || strlen($allow_gid) || strlen($deny_cid) || strlen($deny_gid)) {
934                 $private = 1;
935         } else {
936                 $private = $arr['private'];
937         }
938
939         $arr["allow_cid"] = $allow_cid;
940         $arr["allow_gid"] = $allow_gid;
941         $arr["deny_cid"] = $deny_cid;
942         $arr["deny_gid"] = $deny_gid;
943         $arr["private"] = $private;
944         $arr["deleted"] = $parent_deleted;
945
946         // Fill the cache field
947         put_item_in_cache($arr);
948
949         if ($notify) {
950                 call_hooks('post_local', $arr);
951         } else {
952                 call_hooks('post_remote', $arr);
953         }
954
955         // This array field is used to trigger some automatic reactions
956         // It is mainly used in the "post_local" hook.
957         unset($arr['api_source']);
958
959         if (x($arr, 'cancel')) {
960                 logger('item_store: post cancelled by plugin.');
961                 return 0;
962         }
963
964         /*
965          * Check for already added items.
966          * There is a timing issue here that sometimes creates double postings.
967          * An unique index would help - but the limitations of MySQL (maximum size of index values) prevent this.
968          */
969         if ($arr["uid"] == 0) {
970                 $r = q("SELECT `id` FROM `item` WHERE `uri` = '%s' AND `uid` = 0 LIMIT 1", dbesc(trim($arr['uri'])));
971                 if (DBM::is_result($r)) {
972                         logger('Global item already stored. URI: '.$arr['uri'].' on network '.$arr['network'], LOGGER_DEBUG);
973                         return 0;
974                 }
975         }
976
977         logger('item_store: ' . print_r($arr,true), LOGGER_DATA);
978
979         dba::transaction();
980         $r = dba::insert('item', $arr);
981
982         // When the item was successfully stored we fetch the ID of the item.
983         if (DBM::is_result($r)) {
984                 $current_post = dba::lastInsertId();
985         } else {
986                 // This can happen - for example - if there are locking timeouts.
987                 dba::rollback();
988
989                 // Store the data into a spool file so that we can try again later.
990
991                 // At first we restore the Diaspora signature that we removed above.
992                 if (isset($encoded_signature)) {
993                         $arr['dsprsig'] = $encoded_signature;
994                 }
995
996                 // Now we store the data in the spool directory
997                 // We use "microtime" to keep the arrival order and "mt_rand" to avoid duplicates
998                 $file = 'item-'.round(microtime(true) * 10000).'-'.mt_rand().'.msg';
999
1000                 $spoolpath = get_spoolpath();
1001                 if ($spoolpath != "") {
1002                         $spool = $spoolpath.'/'.$file;
1003                         file_put_contents($spool, json_encode($arr));
1004                         logger("Item wasn't stored - Item was spooled into file ".$file, LOGGER_DEBUG);
1005                 }
1006                 return 0;
1007         }
1008
1009         if ($current_post == 0) {
1010                 // This is one of these error messages that never should occur.
1011                 logger("couldn't find created item - we better quit now.");
1012                 dba::rollback();
1013                 return 0;
1014         }
1015
1016         // How much entries have we created?
1017         // We wouldn't need this query when we could use an unique index - but MySQL has length problems with them.
1018         $r = q("SELECT COUNT(*) AS `entries` FROM `item` WHERE `uri` = '%s' AND `uid` = %d AND `network` = '%s'",
1019                 dbesc($arr['uri']),
1020                 intval($arr['uid']),
1021                 dbesc($arr['network'])
1022         );
1023
1024         if (!DBM::is_result($r)) {
1025                 // This shouldn't happen, since COUNT always works when the database connection is there.
1026                 logger("We couldn't count the stored entries. Very strange ...");
1027                 dba::rollback();
1028                 return 0;
1029         }
1030
1031         if ($r[0]["entries"] > 1) {
1032                 // There are duplicates. We delete our just created entry.
1033                 logger('Duplicated post occurred. uri = ' . $arr['uri'] . ' uid = ' . $arr['uid']);
1034
1035                 // Yes, we could do a rollback here - but we are having many users with MyISAM.
1036                 dba::delete('item', array('id' => $current_post));
1037                 dba::commit();
1038                 return 0;
1039         } elseif ($r[0]["entries"] == 0) {
1040                 // This really should never happen since we quit earlier if there were problems.
1041                 logger("Something is terribly wrong. We haven't found our created entry.");
1042                 dba::rollback();
1043                 return 0;
1044         }
1045
1046         logger('item_store: created item '.$current_post);
1047         item_set_last_item($arr);
1048
1049         if (!$parent_id || ($arr['parent-uri'] === $arr['uri'])) {
1050                 $parent_id = $current_post;
1051         }
1052
1053         // Set parent id
1054         $r = dba::update('item', array('parent' => $parent_id), array('id' => $current_post));
1055
1056         $arr['id'] = $current_post;
1057         $arr['parent'] = $parent_id;
1058
1059         // update the commented timestamp on the parent
1060         // Only update "commented" if it is really a comment
1061         if (($arr['verb'] == ACTIVITY_POST) || !Config::get("system", "like_no_comment")) {
1062                 dba::update('item', array('commented' => datetime_convert(), 'changed' => datetime_convert()), array('id' => $parent_id));
1063         } else {
1064                 dba::update('item', array('changed' => datetime_convert()), array('id' => $parent_id));
1065         }
1066
1067         if ($dsprsig) {
1068
1069                 /*
1070                  * Friendica servers lower than 3.4.3-2 had double encoded the signature ...
1071                  * We can check for this condition when we decode and encode the stuff again.
1072                  */
1073                 if (base64_encode(base64_decode(base64_decode($dsprsig->signature))) == base64_decode($dsprsig->signature)) {
1074                         $dsprsig->signature = base64_decode($dsprsig->signature);
1075                         logger("Repaired double encoded signature from handle ".$dsprsig->signer, LOGGER_DEBUG);
1076                 }
1077
1078                 dba::insert('sign', array('iid' => $current_post, 'signed_text' => $dsprsig->signed_text,
1079                                         'signature' => $dsprsig->signature, 'signer' => $dsprsig->signer));
1080         }
1081
1082         $deleted = tag_deliver($arr['uid'], $current_post);
1083
1084         /*
1085          * current post can be deleted if is for a community page and no mention are
1086          * in it.
1087          */
1088         if (!$deleted && !$dontcache) {
1089
1090                 $r = q('SELECT * FROM `item` WHERE `id` = %d', intval($current_post));
1091                 if ((DBM::is_result($r)) && (count($r) == 1)) {
1092                         if ($notify) {
1093                                 call_hooks('post_local_end', $r[0]);
1094                         } else {
1095                                 call_hooks('post_remote_end', $r[0]);
1096                         }
1097                 } else {
1098                         logger('item_store: new item not found in DB, id ' . $current_post);
1099                 }
1100         }
1101
1102         if ($arr['parent-uri'] === $arr['uri']) {
1103                 add_thread($current_post);
1104         } else {
1105                 update_thread($parent_id);
1106         }
1107
1108         dba::commit();
1109
1110         /*
1111          * Due to deadlock issues with the "term" table we are doing these steps after the commit.
1112          * This is not perfect - but a workable solution until we found the reason for the problem.
1113          */
1114         create_tags_from_item($current_post);
1115         create_files_from_item($current_post);
1116
1117         /*
1118          * If this is now the last-child, force all _other_ children of this parent to *not* be last-child
1119          * It is done after the transaction to avoid dead locks.
1120          */
1121         if ($arr['last-child']) {
1122                 $r = q("UPDATE `item` SET `last-child` = 0 WHERE `parent-uri` = '%s' AND `uid` = %d AND `id` != %d",
1123                         dbesc($arr['uri']),
1124                         intval($arr['uid']),
1125                         intval($current_post)
1126                 );
1127         }
1128
1129         if ($arr['parent-uri'] === $arr['uri']) {
1130                 add_shadow_thread($current_post);
1131         } else {
1132                 add_shadow_entry($current_post);
1133         }
1134
1135         check_item_notification($current_post, $uid);
1136
1137         if ($notify) {
1138                 Worker::add(array('priority' => PRIORITY_HIGH, 'dont_fork' => true), "Notifier", $notify_type, $current_post);
1139         }
1140
1141         return $current_post;
1142 }
1143
1144 /**
1145  * @brief Set "success_update" and "last-item" to the date of the last time we heard from this contact
1146  *
1147  * This can be used to filter for inactive contacts.
1148  * Only do this for public postings to avoid privacy problems, since poco data is public.
1149  * Don't set this value if it isn't from the owner (could be an author that we don't know)
1150  *
1151  * @param array $arr Contains the just posted item record
1152  */
1153 function item_set_last_item($arr) {
1154
1155         $update = (!$arr['private'] && (($arr["author-link"] === $arr["owner-link"]) || ($arr["parent-uri"] === $arr["uri"])));
1156
1157         // Is it a forum? Then we don't care about the rules from above
1158         if (!$update && ($arr["network"] == NETWORK_DFRN) && ($arr["parent-uri"] === $arr["uri"])) {
1159                 $isforum = q("SELECT `forum` FROM `contact` WHERE `id` = %d AND `forum`",
1160                                 intval($arr['contact-id']));
1161                 if (DBM::is_result($isforum)) {
1162                         $update = true;
1163                 }
1164         }
1165
1166         if ($update) {
1167                 dba::update('contact', array('success_update' => $arr['received'], 'last-item' => $arr['received']),
1168                         array('id' => $arr['contact-id']));
1169         }
1170         // Now do the same for the system wide contacts with uid=0
1171         if (!$arr['private']) {
1172                 dba::update('contact', array('success_update' => $arr['received'], 'last-item' => $arr['received']),
1173                         array('id' => $arr['owner-id']));
1174
1175                 if ($arr['owner-id'] != $arr['author-id']) {
1176                         dba::update('contact', array('success_update' => $arr['received'], 'last-item' => $arr['received']),
1177                                 array('id' => $arr['author-id']));
1178                 }
1179         }
1180 }
1181
1182 function item_body_set_hashtags(&$item) {
1183
1184         $tags = get_tags($item["body"]);
1185
1186         // No hashtags?
1187         if (!count($tags)) {
1188                 return false;
1189         }
1190
1191         // This sorting is important when there are hashtags that are part of other hashtags
1192         // Otherwise there could be problems with hashtags like #test and #test2
1193         rsort($tags);
1194
1195         $a = get_app();
1196
1197         $URLSearchString = "^\[\]";
1198
1199         // All hashtags should point to the home server if "local_tags" is activated
1200         if (Config::get('system', 'local_tags')) {
1201                 $item["body"] = preg_replace("/#\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1202                                 "#[url=".System::baseUrl()."/search?tag=$2]$2[/url]", $item["body"]);
1203
1204                 $item["tag"] = preg_replace("/#\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1205                                 "#[url=".System::baseUrl()."/search?tag=$2]$2[/url]", $item["tag"]);
1206         }
1207
1208         // mask hashtags inside of url, bookmarks and attachments to avoid urls in urls
1209         $item["body"] = preg_replace_callback("/\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1210                 function ($match) {
1211                         return ("[url=" . str_replace("#", "&num;", $match[1]) . "]" . str_replace("#", "&num;", $match[2]) . "[/url]");
1212                 }, $item["body"]);
1213
1214         $item["body"] = preg_replace_callback("/\[bookmark\=([$URLSearchString]*)\](.*?)\[\/bookmark\]/ism",
1215                 function ($match) {
1216                         return ("[bookmark=" . str_replace("#", "&num;", $match[1]) . "]" . str_replace("#", "&num;", $match[2]) . "[/bookmark]");
1217                 }, $item["body"]);
1218
1219         $item["body"] = preg_replace_callback("/\[attachment (.*)\](.*?)\[\/attachment\]/ism",
1220                 function ($match) {
1221                         return ("[attachment " . str_replace("#", "&num;", $match[1]) . "]" . $match[2] . "[/attachment]");
1222                 }, $item["body"]);
1223
1224         // Repair recursive urls
1225         $item["body"] = preg_replace("/&num;\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1226                         "&num;$2", $item["body"]);
1227
1228         foreach ($tags as $tag) {
1229                 if ((strpos($tag, '#') !== 0) || (strpos($tag, '[url='))) {
1230                         continue;
1231                 }
1232
1233                 $basetag = str_replace('_',' ',substr($tag,1));
1234
1235                 $newtag = '#[url=' . System::baseUrl() . '/search?tag=' . rawurlencode($basetag) . ']' . $basetag . '[/url]';
1236
1237                 $item["body"] = str_replace($tag, $newtag, $item["body"]);
1238
1239                 if (!stristr($item["tag"], "/search?tag=" . $basetag . "]" . $basetag . "[/url]")) {
1240                         if (strlen($item["tag"])) {
1241                                 $item["tag"] = ','.$item["tag"];
1242                         }
1243                         $item["tag"] = $newtag.$item["tag"];
1244                 }
1245         }
1246
1247         // Convert back the masked hashtags
1248         $item["body"] = str_replace("&num;", "#", $item["body"]);
1249 }
1250
1251 function get_item_guid($id) {
1252         $r = q("SELECT `guid` FROM `item` WHERE `id` = %d LIMIT 1", intval($id));
1253         if (DBM::is_result($r)) {
1254                 return $r[0]["guid"];
1255         } else {
1256                 /// @TODO This else-block can be elimited again
1257                 return "";
1258         }
1259 }
1260
1261 function get_item_id($guid, $uid = 0) {
1262
1263         $nick = "";
1264         $id = 0;
1265
1266         if ($uid == 0) {
1267                 $uid == local_user();
1268         }
1269
1270         // Does the given user have this item?
1271         if ($uid) {
1272                 $r = q("SELECT `item`.`id`, `user`.`nickname` FROM `item` INNER JOIN `user` ON `user`.`uid` = `item`.`uid`
1273                         WHERE `item`.`visible` = 1 AND `item`.`deleted` = 0 AND `item`.`moderated` = 0
1274                                 AND `item`.`guid` = '%s' AND `item`.`uid` = %d", dbesc($guid), intval($uid));
1275                 if (DBM::is_result($r)) {
1276                         $id = $r[0]["id"];
1277                         $nick = $r[0]["nickname"];
1278                 }
1279         }
1280
1281         // Or is it anywhere on the server?
1282         if ($nick == "") {
1283                 $r = q("SELECT `item`.`id`, `user`.`nickname` FROM `item` INNER JOIN `user` ON `user`.`uid` = `item`.`uid`
1284                         WHERE `item`.`visible` = 1 AND `item`.`deleted` = 0 AND `item`.`moderated` = 0
1285                                 AND `item`.`allow_cid` = ''  AND `item`.`allow_gid` = ''
1286                                 AND `item`.`deny_cid`  = '' AND `item`.`deny_gid`  = ''
1287                                 AND `item`.`private` = 0 AND `item`.`wall` = 1
1288                                 AND `item`.`guid` = '%s'", dbesc($guid));
1289                 if (DBM::is_result($r)) {
1290                         $id = $r[0]["id"];
1291                         $nick = $r[0]["nickname"];
1292                 }
1293         }
1294         return array("nick" => $nick, "id" => $id);
1295 }
1296
1297 // return - test
1298 function get_item_contact($item, $contacts) {
1299         if (! count($contacts) || (! is_array($item))) {
1300                 return false;
1301         }
1302         foreach ($contacts as $contact) {
1303                 if ($contact['id'] == $item['contact-id']) {
1304                         return $contact;
1305                         break; // NOTREACHED
1306                 }
1307         }
1308         return false;
1309 }
1310
1311 /**
1312  * look for mention tags and setup a second delivery chain for forum/community posts if appropriate
1313  * @param int $uid
1314  * @param int $item_id
1315  * @return bool true if item was deleted, else false
1316  */
1317 function tag_deliver($uid, $item_id) {
1318
1319         $a = get_app();
1320
1321         $mention = false;
1322
1323         $u = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1324                 intval($uid)
1325         );
1326
1327         if (! DBM::is_result($u)) {
1328                 return;
1329         }
1330
1331         $community_page = (($u[0]['page-flags'] == PAGE_COMMUNITY) ? true : false);
1332         $prvgroup = (($u[0]['page-flags'] == PAGE_PRVGROUP) ? true : false);
1333
1334
1335         $i = q("SELECT * FROM `item` WHERE `id` = %d AND `uid` = %d LIMIT 1",
1336                 intval($item_id),
1337                 intval($uid)
1338         );
1339         if (! DBM::is_result($i)) {
1340                 return;
1341         }
1342
1343         $item = $i[0];
1344
1345         $link = normalise_link(System::baseUrl() . '/profile/' . $u[0]['nickname']);
1346
1347         /*
1348          * Diaspora uses their own hardwired link URL in @-tags
1349          * instead of the one we supply with webfinger
1350          */
1351         $dlink = normalise_link(System::baseUrl() . '/u/' . $u[0]['nickname']);
1352
1353         $cnt = preg_match_all('/[\@\!]\[url\=(.*?)\](.*?)\[\/url\]/ism', $item['body'], $matches, PREG_SET_ORDER);
1354         if ($cnt) {
1355                 foreach ($matches as $mtch) {
1356                         if (link_compare($link, $mtch[1]) || link_compare($dlink, $mtch[1])) {
1357                                 $mention = true;
1358                                 logger('tag_deliver: mention found: ' . $mtch[2]);
1359                         }
1360                 }
1361         }
1362
1363         if (! $mention) {
1364                 if (($community_page || $prvgroup) &&
1365                           (!$item['wall']) && (!$item['origin']) && ($item['id'] == $item['parent'])) {
1366                         // mmh.. no mention.. community page or private group... no wall.. no origin.. top-post (not a comment)
1367                         // delete it!
1368                         logger("tag_deliver: no-mention top-level post to communuty or private group. delete.");
1369                         dba::delete('item', array('id' => $item_id));
1370                         return true;
1371                 }
1372                 return;
1373         }
1374
1375         $arr = array('item' => $item, 'user' => $u[0], 'contact' => $r[0]);
1376
1377         call_hooks('tagged', $arr);
1378
1379         if ((! $community_page) && (! $prvgroup)) {
1380                 return;
1381         }
1382
1383         /*
1384          * tgroup delivery - setup a second delivery chain
1385          * prevent delivery looping - only proceed
1386          * if the message originated elsewhere and is a top-level post
1387          */
1388         if (($item['wall']) || ($item['origin']) || ($item['id'] != $item['parent'])) {
1389                 return;
1390         }
1391
1392         // now change this copy of the post to a forum head message and deliver to all the tgroup members
1393         $c = q("SELECT `name`, `url`, `thumb` FROM `contact` WHERE `self` = 1 AND `uid` = %d LIMIT 1",
1394                 intval($u[0]['uid'])
1395         );
1396         if (! DBM::is_result($c)) {
1397                 return;
1398         }
1399
1400         // also reset all the privacy bits to the forum default permissions
1401
1402         $private = ($u[0]['allow_cid'] || $u[0]['allow_gid'] || $u[0]['deny_cid'] || $u[0]['deny_gid']) ? 1 : 0;
1403
1404         $forum_mode = (($prvgroup) ? 2 : 1);
1405
1406         q("UPDATE `item` SET `wall` = 1, `origin` = 1, `forum_mode` = %d, `owner-name` = '%s', `owner-link` = '%s', `owner-avatar` = '%s',
1407                 `private` = %d, `allow_cid` = '%s', `allow_gid` = '%s', `deny_cid` = '%s', `deny_gid` = '%s'  WHERE `id` = %d",
1408                 intval($forum_mode),
1409                 dbesc($c[0]['name']),
1410                 dbesc($c[0]['url']),
1411                 dbesc($c[0]['thumb']),
1412                 intval($private),
1413                 dbesc($u[0]['allow_cid']),
1414                 dbesc($u[0]['allow_gid']),
1415                 dbesc($u[0]['deny_cid']),
1416                 dbesc($u[0]['deny_gid']),
1417                 intval($item_id)
1418         );
1419         update_thread($item_id);
1420
1421         Worker::add(array('priority' => PRIORITY_HIGH, 'dont_fork' => true), 'Notifier', 'tgroup', $item_id);
1422
1423 }
1424
1425
1426
1427 function tgroup_check($uid, $item) {
1428
1429         $mention = false;
1430
1431         // check that the message originated elsewhere and is a top-level post
1432
1433         if (($item['wall']) || ($item['origin']) || ($item['uri'] != $item['parent-uri'])) {
1434                 return false;
1435         }
1436
1437         /// @TODO Encapsulate this or find it encapsulated and replace all occurrances
1438         $u = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1439                 intval($uid)
1440         );
1441         if (! DBM::is_result($u)) {
1442                 return false;
1443         }
1444
1445         $community_page = (($u[0]['page-flags'] == PAGE_COMMUNITY) ? true : false);
1446         $prvgroup = (($u[0]['page-flags'] == PAGE_PRVGROUP) ? true : false);
1447
1448         $link = normalise_link(System::baseUrl() . '/profile/' . $u[0]['nickname']);
1449
1450         /*
1451          * Diaspora uses their own hardwired link URL in @-tags
1452          * instead of the one we supply with webfinger
1453          */
1454         $dlink = normalise_link(System::baseUrl() . '/u/' . $u[0]['nickname']);
1455
1456         $cnt = preg_match_all('/[\@\!]\[url\=(.*?)\](.*?)\[\/url\]/ism', $item['body'], $matches, PREG_SET_ORDER);
1457         if ($cnt) {
1458                 foreach ($matches as $mtch) {
1459                         if (link_compare($link, $mtch[1]) || link_compare($dlink, $mtch[1])) {
1460                                 $mention = true;
1461                                 logger('tgroup_check: mention found: ' . $mtch[2]);
1462                         }
1463                 }
1464         }
1465
1466         if (! $mention) {
1467                 return false;
1468         }
1469
1470         /// @TODO Combine both return statements into one
1471         return (($community_page) || ($prvgroup));
1472 }
1473
1474 /**
1475  * This function returns true if $update has an edited timestamp newer
1476  * than $existing, i.e. $update contains new data which should override
1477  * what's already there.  If there is no timestamp yet, the update is
1478  * assumed to be newer.  If the update has no timestamp, the existing
1479  * item is assumed to be up-to-date.  If the timestamps are equal it
1480  * assumes the update has been seen before and should be ignored.
1481  *
1482  * @todo fix type-hints (both array)
1483  */
1484 function edited_timestamp_is_newer($existing, $update) {
1485         if (!x($existing, 'edited') || !$existing['edited']) {
1486                 return true;
1487         }
1488         if (!x($update, 'edited') || !$update['edited']) {
1489                 return false;
1490         }
1491
1492         $existing_edited = datetime_convert('UTC', 'UTC', $existing['edited']);
1493         $update_edited = datetime_convert('UTC', 'UTC', $update['edited']);
1494         return (strcmp($existing_edited, $update_edited) < 0);
1495 }
1496
1497 /**
1498  *
1499  * consume_feed - process atom feed and update anything/everything we might need to update
1500  *
1501  * $xml = the (atom) feed to consume - RSS isn't as fully supported but may work for simple feeds.
1502  *
1503  * $importer = the contact_record (joined to user_record) of the local user who owns this relationship.
1504  *             It is this person's stuff that is going to be updated.
1505  * $contact =  the person who is sending us stuff. If not set, we MAY be processing a "follow" activity
1506  *             from an external network and MAY create an appropriate contact record. Otherwise, we MUST
1507  *             have a contact record.
1508  * $hub = should we find a hub declation in the feed, pass it back to our calling process, who might (or
1509  *        might not) try and subscribe to it.
1510  * $datedir sorts in reverse order
1511  * $pass - by default ($pass = 0) we cannot guarantee that a parent item has been
1512  *      imported prior to its children being seen in the stream unless we are certain
1513  *      of how the feed is arranged/ordered.
1514  * With $pass = 1, we only pull parent items out of the stream.
1515  * With $pass = 2, we only pull children (comments/likes).
1516  *
1517  * So running this twice, first with pass 1 and then with pass 2 will do the right
1518  * thing regardless of feed ordering. This won't be adequate in a fully-threaded
1519  * model where comments can have sub-threads. That would require some massive sorting
1520  * to get all the feed items into a mostly linear ordering, and might still require
1521  * recursion.
1522  *
1523  * @todo find proper type-hints
1524  */
1525 function consume_feed($xml, $importer, &$contact, &$hub, $datedir = 0, $pass = 0) {
1526         if ($contact['network'] === NETWORK_OSTATUS) {
1527                 if ($pass < 2) {
1528                         // Test - remove before flight
1529                         //$tempfile = tempnam(get_temppath(), "ostatus2");
1530                         //file_put_contents($tempfile, $xml);
1531                         logger("Consume OStatus messages ", LOGGER_DEBUG);
1532                         OStatus::import($xml, $importer, $contact, $hub);
1533                 }
1534                 return;
1535         }
1536
1537         if ($contact['network'] === NETWORK_FEED) {
1538                 if ($pass < 2) {
1539                         logger("Consume feeds", LOGGER_DEBUG);
1540                         feed_import($xml, $importer, $contact, $hub);
1541                 }
1542                 return;
1543         }
1544
1545         if ($contact['network'] === NETWORK_DFRN) {
1546                 logger("Consume DFRN messages", LOGGER_DEBUG);
1547
1548                 $r = q("SELECT `contact`.*, `contact`.`uid` AS `importer_uid`,
1549                                         `contact`.`pubkey` AS `cpubkey`,
1550                                         `contact`.`prvkey` AS `cprvkey`,
1551                                         `contact`.`thumb` AS `thumb`,
1552                                         `contact`.`url` as `url`,
1553                                         `contact`.`name` as `senderName`,
1554                                         `user`.*
1555                         FROM `contact`
1556                         LEFT JOIN `user` ON `contact`.`uid` = `user`.`uid`
1557                         WHERE `contact`.`id` = %d AND `user`.`uid` = %d",
1558                         dbesc($contact["id"]), dbesc($importer["uid"])
1559                 );
1560                 if (DBM::is_result($r)) {
1561                         logger("Now import the DFRN feed");
1562                         DFRN::import($xml, $r[0], true);
1563                         return;
1564                 }
1565         }
1566 }
1567
1568 /// @TODO type-hint is array
1569 function item_is_remote_self($contact, &$datarray) {
1570         $a = get_app();
1571
1572         if (!$contact['remote_self']) {
1573                 return false;
1574         }
1575
1576         // Prevent the forwarding of posts that are forwarded
1577         if ($datarray["extid"] == NETWORK_DFRN) {
1578                 return false;
1579         }
1580
1581         // Prevent to forward already forwarded posts
1582         if ($datarray["app"] == $a->get_hostname()) {
1583                 return false;
1584         }
1585
1586         // Only forward posts
1587         if ($datarray["verb"] != ACTIVITY_POST) {
1588                 return false;
1589         }
1590
1591         if (($contact['network'] != NETWORK_FEED) && $datarray['private']) {
1592                 return false;
1593         }
1594
1595         $datarray2 = $datarray;
1596         logger('remote-self start - Contact '.$contact['url'].' - '.$contact['remote_self'].' Item '.print_r($datarray, true), LOGGER_DEBUG);
1597         if ($contact['remote_self'] == 2) {
1598                 $r = q("SELECT `id`,`url`,`name`,`thumb` FROM `contact` WHERE `uid` = %d AND `self`",
1599                         intval($contact['uid']));
1600                 if (DBM::is_result($r)) {
1601                         $datarray['contact-id'] = $r[0]["id"];
1602
1603                         $datarray['owner-name'] = $r[0]["name"];
1604                         $datarray['owner-link'] = $r[0]["url"];
1605                         $datarray['owner-avatar'] = $r[0]["thumb"];
1606
1607                         $datarray['author-name']   = $datarray['owner-name'];
1608                         $datarray['author-link']   = $datarray['owner-link'];
1609                         $datarray['author-avatar'] = $datarray['owner-avatar'];
1610
1611                         unset($datarray['created']);
1612                         unset($datarray['edited']);
1613                 }
1614
1615                 if ($contact['network'] != NETWORK_FEED) {
1616                         $datarray["guid"] = get_guid(32);
1617                         unset($datarray["plink"]);
1618                         $datarray["uri"] = item_new_uri($a->get_hostname(), $contact['uid'], $datarray["guid"]);
1619                         $datarray["parent-uri"] = $datarray["uri"];
1620                         $datarray["extid"] = $contact['network'];
1621                         $urlpart = parse_url($datarray2['author-link']);
1622                         $datarray["app"] = $urlpart["host"];
1623                 } else {
1624                         $datarray['private'] = 0;
1625                 }
1626         }
1627
1628         if ($contact['network'] != NETWORK_FEED) {
1629                 // Store the original post
1630                 $r = item_store($datarray2, false, false);
1631                 logger('remote-self post original item - Contact '.$contact['url'].' return '.$r.' Item '.print_r($datarray2, true), LOGGER_DEBUG);
1632         } else {
1633                 $datarray["app"] = "Feed";
1634         }
1635
1636         // Trigger automatic reactions for addons
1637         $datarray['api_source'] = true;
1638
1639         // We have to tell the hooks who we are - this really should be improved
1640         $_SESSION["authenticated"] = true;
1641         $_SESSION["uid"] = $contact['uid'];
1642
1643         return true;
1644 }
1645
1646 /// @TODO find proper type-hints
1647 function new_follower($importer, $contact, $datarray, $item, $sharing = false) {
1648         $url = notags(trim($datarray['author-link']));
1649         $name = notags(trim($datarray['author-name']));
1650         $photo = notags(trim($datarray['author-avatar']));
1651
1652         if (is_object($item)) {
1653                 $rawtag = $item->get_item_tags(NAMESPACE_ACTIVITY,'actor');
1654                 if ($rawtag && $rawtag[0]['child'][NAMESPACE_POCO]['preferredUsername'][0]['data']) {
1655                         $nick = $rawtag[0]['child'][NAMESPACE_POCO]['preferredUsername'][0]['data'];
1656                 }
1657         } else {
1658                 $nick = $item;
1659         }
1660
1661         if (is_array($contact)) {
1662                 if (($contact['network'] == NETWORK_OSTATUS && $contact['rel'] == CONTACT_IS_SHARING)
1663                         || ($sharing && $contact['rel'] == CONTACT_IS_FOLLOWER)) {
1664                         $r = dba::update('contact', array('rel' => CONTACT_IS_FRIEND, 'writable' => true),
1665                                         array('id' => $contact['id'], 'uid' => $importer['uid']));
1666                 }
1667                 // send email notification to owner?
1668         } else {
1669
1670                 // create contact record
1671
1672                 $r = q("INSERT INTO `contact` (`uid`, `created`, `url`, `nurl`, `name`, `nick`, `photo`, `network`, `rel`,
1673                         `blocked`, `readonly`, `pending`, `writable`)
1674                         VALUES (%d, '%s', '%s', '%s', '%s', '%s', '%s', '%s', %d, 0, 0, 1, 1)",
1675                         intval($importer['uid']),
1676                         dbesc(datetime_convert()),
1677                         dbesc($url),
1678                         dbesc(normalise_link($url)),
1679                         dbesc($name),
1680                         dbesc($nick),
1681                         dbesc($photo),
1682                         dbesc(NETWORK_OSTATUS),
1683                         intval(CONTACT_IS_FOLLOWER)
1684                 );
1685                 $r = q("SELECT `id`, `network` FROM `contact` WHERE `uid` = %d AND `url` = '%s' AND `pending` = 1 LIMIT 1",
1686                                 intval($importer['uid']),
1687                                 dbesc($url)
1688                 );
1689                 if (DBM::is_result($r)) {
1690                         $contact_record = $r[0];
1691                         Contact::updateAvatar($photo, $importer["uid"], $contact_record["id"], true);
1692                 }
1693
1694                 /// @TODO Encapsulate this into a function/method
1695                 $r = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1696                         intval($importer['uid'])
1697                 );
1698
1699                 if (DBM::is_result($r) && !in_array($r[0]['page-flags'], array(PAGE_SOAPBOX, PAGE_FREELOVE, PAGE_COMMUNITY))) {
1700
1701                         // create notification
1702                         $hash = random_string();
1703
1704                         if (is_array($contact_record)) {
1705                                 dba::insert('intro', array('uid' => $importer['uid'], 'contact-id' => $contact_record['id'],
1706                                                         'blocked' => false, 'knowyou' => false,
1707                                                         'hash' => $hash, 'datetime' => datetime_convert()));
1708                         }
1709
1710                         $def_gid = get_default_group($importer['uid'], $contact_record["network"]);
1711
1712                         if (intval($def_gid)) {
1713                                 group_add_member($importer['uid'], '', $contact_record['id'], $def_gid);
1714                         }
1715
1716                         if (($r[0]['notify-flags'] & NOTIFY_INTRO) &&
1717                                 in_array($r[0]['page-flags'], array(PAGE_NORMAL))) {
1718
1719                                 notification(array(
1720                                         'type'         => NOTIFY_INTRO,
1721                                         'notify_flags' => $r[0]['notify-flags'],
1722                                         'language'     => $r[0]['language'],
1723                                         'to_name'      => $r[0]['username'],
1724                                         'to_email'     => $r[0]['email'],
1725                                         'uid'          => $r[0]['uid'],
1726                                         'link'             => System::baseUrl() . '/notifications/intro',
1727                                         'source_name'  => ((strlen(stripslashes($contact_record['name']))) ? stripslashes($contact_record['name']) : t('[Name Withheld]')),
1728                                         'source_link'  => $contact_record['url'],
1729                                         'source_photo' => $contact_record['photo'],
1730                                         'verb'         => ($sharing ? ACTIVITY_FRIEND : ACTIVITY_FOLLOW),
1731                                         'otype'        => 'intro'
1732                                 ));
1733
1734                         }
1735                 } elseif (DBM::is_result($r) && in_array($r[0]['page-flags'], array(PAGE_SOAPBOX, PAGE_FREELOVE, PAGE_COMMUNITY))) {
1736                         $r = q("UPDATE `contact` SET `pending` = 0 WHERE `uid` = %d AND `url` = '%s' AND `pending` LIMIT 1",
1737                                         intval($importer['uid']),
1738                                         dbesc($url)
1739                         );
1740                 }
1741
1742         }
1743 }
1744
1745 function lose_follower($importer, $contact, array $datarray = array(), $item = "") {
1746
1747         if (($contact['rel'] == CONTACT_IS_FRIEND) || ($contact['rel'] == CONTACT_IS_SHARING)) {
1748                 dba::update('contact', array('rel' => CONTACT_IS_SHARING), array('id' => $contact['id']));
1749         } else {
1750                 Contact::remove($contact['id']);
1751         }
1752 }
1753
1754 function lose_sharer($importer, $contact, array $datarray = array(), $item = "") {
1755
1756         if (($contact['rel'] == CONTACT_IS_FRIEND) || ($contact['rel'] == CONTACT_IS_FOLLOWER)) {
1757                 dba::update('contact', array('rel' => CONTACT_IS_FOLLOWER), array('id' => $contact['id']));
1758         } else {
1759                 Contact::remove($contact['id']);
1760         }
1761 }
1762
1763 function subscribe_to_hub($url, $importer, $contact, $hubmode = 'subscribe') {
1764
1765         $a = get_app();
1766
1767         if (is_array($importer)) {
1768                 $r = q("SELECT `nickname` FROM `user` WHERE `uid` = %d LIMIT 1",
1769                         intval($importer['uid'])
1770                 );
1771         }
1772
1773         /*
1774          * Diaspora has different message-ids in feeds than they do
1775          * through the direct Diaspora protocol. If we try and use
1776          * the feed, we'll get duplicates. So don't.
1777          */
1778         if ((! DBM::is_result($r)) || $contact['network'] === NETWORK_DIASPORA) {
1779                 return;
1780         }
1781
1782         $push_url = Config::get('system','url') . '/pubsub/' . $r[0]['nickname'] . '/' . $contact['id'];
1783
1784         // Use a single verify token, even if multiple hubs
1785         $verify_token = ((strlen($contact['hub-verify'])) ? $contact['hub-verify'] : random_string());
1786
1787         $params= 'hub.mode=' . $hubmode . '&hub.callback=' . urlencode($push_url) . '&hub.topic=' . urlencode($contact['poll']) . '&hub.verify=async&hub.verify_token=' . $verify_token;
1788
1789         logger('subscribe_to_hub: ' . $hubmode . ' ' . $contact['name'] . ' to hub ' . $url . ' endpoint: '  . $push_url . ' with verifier ' . $verify_token);
1790
1791         if (!strlen($contact['hub-verify']) || ($contact['hub-verify'] != $verify_token)) {
1792                 $r = dba::update('contact', array('hub-verify' => $verify_token), array('id' => $contact['id']));
1793         }
1794
1795         post_url($url, $params);
1796
1797         logger('subscribe_to_hub: returns: ' . $a->get_curl_code(), LOGGER_DEBUG);
1798
1799         return;
1800
1801 }
1802
1803 function fix_private_photos($s, $uid, $item = null, $cid = 0) {
1804
1805         if (Config::get('system','disable_embedded')) {
1806                 return $s;
1807         }
1808
1809         $a = get_app();
1810
1811         logger('fix_private_photos: check for photos', LOGGER_DEBUG);
1812         $site = substr(System::baseUrl(),strpos(System::baseUrl(),'://'));
1813
1814         $orig_body = $s;
1815         $new_body = '';
1816
1817         $img_start = strpos($orig_body, '[img');
1818         $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
1819         $img_len = ($img_start !== false ? strpos(substr($orig_body, $img_start + $img_st_close + 1), '[/img]') : false);
1820         while ( ($img_st_close !== false) && ($img_len !== false) ) {
1821
1822                 $img_st_close++; // make it point to AFTER the closing bracket
1823                 $image = substr($orig_body, $img_start + $img_st_close, $img_len);
1824
1825                 logger('fix_private_photos: found photo ' . $image, LOGGER_DEBUG);
1826
1827
1828                 if (stristr($image , $site . '/photo/')) {
1829                         // Only embed locally hosted photos
1830                         $replace = false;
1831                         $i = basename($image);
1832                         $i = str_replace(array('.jpg', '.png', '.gif'),array('', '',''), $i);
1833                         $x = strpos($i, '-');
1834
1835                         if ($x) {
1836                                 $res = substr($i, $x + 1);
1837                                 $i = substr($i, 0, $x);
1838                                 $r = q("SELECT * FROM `photo` WHERE `resource-id` = '%s' AND `scale` = %d AND `uid` = %d",
1839                                         dbesc($i),
1840                                         intval($res),
1841                                         intval($uid)
1842
1843                                 );
1844                                 if (DBM::is_result($r)) {
1845                                         /*
1846                                          * Check to see if we should replace this photo link with an embedded image
1847                                          * 1. No need to do so if the photo is public
1848                                          * 2. If there's a contact-id provided, see if they're in the access list
1849                                          *    for the photo. If so, embed it.
1850                                          * 3. Otherwise, if we have an item, see if the item permissions match the photo
1851                                          *    permissions, regardless of order but first check to see if they're an exact
1852                                          *    match to save some processing overhead.
1853                                          */
1854                                         if (has_permissions($r[0])) {
1855                                                 if ($cid) {
1856                                                         $recips = enumerate_permissions($r[0]);
1857                                                         if (in_array($cid, $recips)) {
1858                                                                 $replace = true;
1859                                                         }
1860                                                 } elseif ($item) {
1861                                                         if (compare_permissions($item, $r[0])) {
1862                                                                 $replace = true;
1863                                                         }
1864                                                 }
1865                                         }
1866                                         if ($replace) {
1867                                                 $data = $r[0]['data'];
1868                                                 $type = $r[0]['type'];
1869
1870                                                 // If a custom width and height were specified, apply before embedding
1871                                                 if (preg_match("/\[img\=([0-9]*)x([0-9]*)\]/is", substr($orig_body, $img_start, $img_st_close), $match)) {
1872                                                         logger('fix_private_photos: scaling photo', LOGGER_DEBUG);
1873
1874                                                         $width = intval($match[1]);
1875                                                         $height = intval($match[2]);
1876
1877                                                         $ph = new Photo($data, $type);
1878                                                         if ($ph->isValid()) {
1879                                                                 $ph->scaleImage(max($width, $height));
1880                                                                 $data = $ph->imageString();
1881                                                                 $type = $ph->getType();
1882                                                         }
1883                                                 }
1884
1885                                                 logger('fix_private_photos: replacing photo', LOGGER_DEBUG);
1886                                                 $image = 'data:' . $type . ';base64,' . base64_encode($data);
1887                                                 logger('fix_private_photos: replaced: ' . $image, LOGGER_DATA);
1888                                         }
1889                                 }
1890                         }
1891                 }
1892
1893                 $new_body = $new_body . substr($orig_body, 0, $img_start + $img_st_close) . $image . '[/img]';
1894                 $orig_body = substr($orig_body, $img_start + $img_st_close + $img_len + strlen('[/img]'));
1895                 if ($orig_body === false) {
1896                         $orig_body = '';
1897                 }
1898
1899                 $img_start = strpos($orig_body, '[img');
1900                 $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
1901                 $img_len = ($img_start !== false ? strpos(substr($orig_body, $img_start + $img_st_close + 1), '[/img]') : false);
1902         }
1903
1904         $new_body = $new_body . $orig_body;
1905
1906         return $new_body;
1907 }
1908
1909 /// @TODO type-hint is array
1910 function has_permissions($obj) {
1911         return (
1912                 (
1913                         x($obj, 'allow_cid')
1914                 ) || (
1915                         x($obj, 'allow_gid')
1916                 ) || (
1917                         x($obj, 'deny_cid')
1918                 ) || (
1919                         x($obj, 'deny_gid')
1920                 )
1921         );
1922 }
1923
1924 /// @TODO type-hint is array
1925 function compare_permissions($obj1, $obj2) {
1926         // first part is easy. Check that these are exactly the same.
1927         if (($obj1['allow_cid'] == $obj2['allow_cid'])
1928                 && ($obj1['allow_gid'] == $obj2['allow_gid'])
1929                 && ($obj1['deny_cid'] == $obj2['deny_cid'])
1930                 && ($obj1['deny_gid'] == $obj2['deny_gid'])) {
1931                 return true;
1932         }
1933
1934         // This is harder. Parse all the permissions and compare the resulting set.
1935         $recipients1 = enumerate_permissions($obj1);
1936         $recipients2 = enumerate_permissions($obj2);
1937         sort($recipients1);
1938         sort($recipients2);
1939
1940         /// @TODO Comparison of arrays, maybe use array_diff_assoc() here?
1941         return ($recipients1 == $recipients2);
1942 }
1943
1944 // returns an array of contact-ids that are allowed to see this object
1945 /// @TODO type-hint is array
1946 function enumerate_permissions($obj) {
1947         $allow_people = expand_acl($obj['allow_cid']);
1948         $allow_groups = expand_groups(expand_acl($obj['allow_gid']));
1949         $deny_people  = expand_acl($obj['deny_cid']);
1950         $deny_groups  = expand_groups(expand_acl($obj['deny_gid']));
1951         $recipients   = array_unique(array_merge($allow_people, $allow_groups));
1952         $deny         = array_unique(array_merge($deny_people, $deny_groups));
1953         $recipients   = array_diff($recipients, $deny);
1954         return $recipients;
1955 }
1956
1957 function item_getfeedtags($item) {
1958         $ret = array();
1959         $matches = false;
1960         $cnt = preg_match_all('|\#\[url\=(.*?)\](.*?)\[\/url\]|', $item['tag'], $matches);
1961         if ($cnt) {
1962                 for ($x = 0; $x < $cnt; $x ++) {
1963                         if ($matches[1][$x]) {
1964                                 $ret[$matches[2][$x]] = array('#', $matches[1][$x], $matches[2][$x]);
1965                         }
1966                 }
1967         }
1968         $matches = false;
1969         $cnt = preg_match_all('|\@\[url\=(.*?)\](.*?)\[\/url\]|', $item['tag'], $matches);
1970         if ($cnt) {
1971                 for ($x = 0; $x < $cnt; $x ++) {
1972                         if ($matches[1][$x]) {
1973                                 $ret[] = array('@', $matches[1][$x], $matches[2][$x]);
1974                         }
1975                 }
1976         }
1977         return $ret;
1978 }
1979
1980 function item_expire($uid, $days, $network = "", $force = false) {
1981
1982         if ((! $uid) || ($days < 1)) {
1983                 return;
1984         }
1985
1986         /*
1987          * $expire_network_only = save your own wall posts
1988          * and just expire conversations started by others
1989          */
1990         $expire_network_only = PConfig::get($uid,'expire', 'network_only');
1991         $sql_extra = ((intval($expire_network_only)) ? " AND wall = 0 " : "");
1992
1993         if ($network != "") {
1994                 $sql_extra .= sprintf(" AND network = '%s' ", dbesc($network));
1995
1996                 /*
1997                  * There is an index "uid_network_received" but not "uid_network_created"
1998                  * This avoids the creation of another index just for one purpose.
1999                  * And it doesn't really matter wether to look at "received" or "created"
2000                  */
2001                 $range = "AND `received` < UTC_TIMESTAMP() - INTERVAL %d DAY ";
2002         } else {
2003                 $range = "AND `created` < UTC_TIMESTAMP() - INTERVAL %d DAY ";
2004         }
2005
2006         $r = q("SELECT `file`, `resource-id`, `starred`, `type`, `id` FROM `item`
2007                 WHERE `uid` = %d $range
2008                 AND `id` = `parent`
2009                 $sql_extra
2010                 AND `deleted` = 0",
2011                 intval($uid),
2012                 intval($days)
2013         );
2014
2015         if (! DBM::is_result($r)) {
2016                 return;
2017         }
2018
2019         $expire_items = PConfig::get($uid, 'expire', 'items', 1);
2020
2021         // Forcing expiring of items - but not notes and marked items
2022         if ($force) {
2023                 $expire_items = true;
2024         }
2025
2026         $expire_notes = PConfig::get($uid, 'expire', 'notes', 1);
2027         $expire_starred = PConfig::get($uid, 'expire', 'starred', 1);
2028         $expire_photos = PConfig::get($uid, 'expire', 'photos', 0);
2029
2030         logger('User '.$uid.': expire: # items=' . count($r). "; expire items: $expire_items, expire notes: $expire_notes, expire starred: $expire_starred, expire photos: $expire_photos");
2031
2032         foreach ($r as $item) {
2033
2034                 // don't expire filed items
2035
2036                 if (strpos($item['file'],'[') !== false) {
2037                         continue;
2038                 }
2039
2040                 // Only expire posts, not photos and photo comments
2041
2042                 if ($expire_photos == 0 && strlen($item['resource-id'])) {
2043                         continue;
2044                 } elseif ($expire_starred == 0 && intval($item['starred'])) {
2045                         continue;
2046                 } elseif ($expire_notes == 0 && $item['type'] == 'note') {
2047                         continue;
2048                 } elseif ($expire_items == 0 && $item['type'] != 'note') {
2049                         continue;
2050                 }
2051
2052                 drop_item($item['id'], false);
2053         }
2054
2055         Worker::add(array('priority' => PRIORITY_LOW, 'dont_fork' => true), "Notifier", "expire", $uid);
2056 }
2057
2058 /// @TODO type-hint is array
2059 function drop_items($items) {
2060         $uid = 0;
2061
2062         if (! local_user() && ! remote_user()) {
2063                 return;
2064         }
2065
2066         if (count($items)) {
2067                 foreach ($items as $item) {
2068                         $owner = drop_item($item,false);
2069                         if ($owner && ! $uid)
2070                                 $uid = $owner;
2071                 }
2072         }
2073
2074         // multiple threads may have been deleted, send an expire notification
2075
2076         if ($uid) {
2077                 Worker::add(array('priority' => PRIORITY_LOW, 'dont_fork' => true), "Notifier", "expire", $uid);
2078         }
2079 }
2080
2081
2082 function drop_item($id, $interactive = true) {
2083
2084         $a = get_app();
2085
2086         // locate item to be deleted
2087
2088         $r = q("SELECT * FROM `item` WHERE `id` = %d LIMIT 1",
2089                 intval($id)
2090         );
2091
2092         if (! DBM::is_result($r)) {
2093                 if (! $interactive) {
2094                         return 0;
2095                 }
2096                 notice( t('Item not found.') . EOL);
2097                 goaway(System::baseUrl() . '/' . $_SESSION['return_url']);
2098         }
2099
2100         $item = $r[0];
2101
2102         if ($item['deleted']) {
2103                 return 0;
2104         }
2105
2106         $owner = $item['uid'];
2107
2108         $contact_id = 0;
2109
2110         // check if logged in user is either the author or owner of this item
2111
2112         if (is_array($_SESSION['remote'])) {
2113                 foreach ($_SESSION['remote'] as $visitor) {
2114                         if ($visitor['uid'] == $item['uid'] && $visitor['cid'] == $item['contact-id']) {
2115                                 $contact_id = $visitor['cid'];
2116                                 break;
2117                         }
2118                 }
2119         }
2120
2121
2122         if ((local_user() == $item['uid']) || $contact_id || !$interactive) {
2123
2124                 // Check if we should do HTML-based delete confirmation
2125                 if ($_REQUEST['confirm']) {
2126                         // <form> can't take arguments in its "action" parameter
2127                         // so add any arguments as hidden inputs
2128                         $query = explode_querystring($a->query_string);
2129                         $inputs = array();
2130                         foreach ($query['args'] as $arg) {
2131                                 if (strpos($arg, 'confirm=') === false) {
2132                                         $arg_parts = explode('=', $arg);
2133                                         $inputs[] = array('name' => $arg_parts[0], 'value' => $arg_parts[1]);
2134                                 }
2135                         }
2136
2137                         return replace_macros(get_markup_template('confirm.tpl'), array(
2138                                 '$method' => 'get',
2139                                 '$message' => t('Do you really want to delete this item?'),
2140                                 '$extra_inputs' => $inputs,
2141                                 '$confirm' => t('Yes'),
2142                                 '$confirm_url' => $query['base'],
2143                                 '$confirm_name' => 'confirmed',
2144                                 '$cancel' => t('Cancel'),
2145                         ));
2146                 }
2147                 // Now check how the user responded to the confirmation query
2148                 if ($_REQUEST['canceled']) {
2149                         goaway(System::baseUrl() . '/' . $_SESSION['return_url']);
2150                 }
2151
2152                 logger('delete item: ' . $item['id'], LOGGER_DEBUG);
2153
2154                 // delete the item
2155                 $r = dba::update('item', array('deleted' => true, 'title' => '', 'body' => '',
2156                                         'edited' => datetime_convert(), 'changed' => datetime_convert()),
2157                                 array('id' => $item['id']));
2158
2159                 create_tags_from_item($item['id']);
2160                 create_files_from_item($item['id']);
2161                 delete_thread($item['id'], $item['parent-uri']);
2162
2163                 // clean up categories and tags so they don't end up as orphans
2164
2165                 $matches = false;
2166                 $cnt = preg_match_all('/<(.*?)>/', $item['file'], $matches, PREG_SET_ORDER);
2167                 if ($cnt) {
2168                         foreach ($matches as $mtch) {
2169                                 file_tag_unsave_file($item['uid'], $item['id'], $mtch[1],true);
2170                         }
2171                 }
2172
2173                 $matches = false;
2174
2175                 $cnt = preg_match_all('/\[(.*?)\]/', $item['file'], $matches, PREG_SET_ORDER);
2176                 if ($cnt) {
2177                         foreach ($matches as $mtch) {
2178                                 file_tag_unsave_file($item['uid'], $item['id'], $mtch[1],false);
2179                         }
2180                 }
2181
2182                 /*
2183                  * If item is a link to a photo resource, nuke all the associated photos
2184                  * (visitors will not have photo resources)
2185                  * This only applies to photos uploaded from the photos page. Photos inserted into a post do not
2186                  * generate a resource-id and therefore aren't intimately linked to the item.
2187                  */
2188                 if (strlen($item['resource-id'])) {
2189                         dba::delete('photo', array('resource-id' => $item['resource-id'], 'uid' => $item['uid']));
2190                 }
2191
2192                 // If item is a link to an event, nuke the event record.
2193                 if (intval($item['event-id'])) {
2194                         dba::delete('event', array('id' => $item['event-id'], 'uid' => $item['uid']));
2195                 }
2196
2197                 // If item has attachments, drop them
2198                 foreach (explode(", ", $item['attach']) as $attach) {
2199                         preg_match("|attach/(\d+)|", $attach, $matches);
2200                         dba::delete('attach', array('id' => $matches[1], 'uid' => $item['uid']));
2201                 }
2202
2203                 // The new code splits the queries since the mysql optimizer really has bad problems with subqueries
2204
2205                 // Creating list of parents
2206                 $r = q("SELECT `id` FROM `item` WHERE `parent` = %d AND `uid` = %d",
2207                         intval($item['id']),
2208                         intval($item['uid'])
2209                 );
2210
2211                 $parentid = "";
2212
2213                 foreach ($r as $row) {
2214                         if ($parentid != "") {
2215                                 $parentid .= ", ";
2216                         }
2217
2218                         $parentid .= $row["id"];
2219                 }
2220
2221                 // Now delete them
2222                 if ($parentid != "") {
2223                         $r = q("DELETE FROM `item_id` WHERE `iid` IN (%s)", dbesc($parentid));
2224                         $r = q("DELETE FROM `sign` WHERE `iid` IN (%s)", dbesc($parentid));
2225                 }
2226
2227                 // If it's the parent of a comment thread, kill all the kids
2228                 if ($item['uri'] == $item['parent-uri']) {
2229                         $r = dba::update('item', array('deleted' => true, 'title' => '', 'body' => '',
2230                                         'edited' => datetime_convert(), 'changed' => datetime_convert()),
2231                                 array('parent-uri' => $item['parent-uri'], 'uid' => $item['uid']));
2232
2233                         create_tags_from_itemuri($item['parent-uri'], $item['uid']);
2234                         create_files_from_itemuri($item['parent-uri'], $item['uid']);
2235                         delete_thread_uri($item['parent-uri'], $item['uid']);
2236                         // ignore the result
2237                 } else {
2238                         // ensure that last-child is set in case the comment that had it just got wiped.
2239                         dba::update('item', array('last-child' => false, 'changed' => datetime_convert()),
2240                                         array('parent-uri' => $item['parent-uri'], 'uid' => $item['uid']));
2241
2242                         // who is the last child now?
2243                         $r = q("SELECT `id` FROM `item` WHERE `parent-uri` = '%s' AND `type` != 'activity' AND `deleted` = 0 AND `uid` = %d ORDER BY `edited` DESC LIMIT 1",
2244                                 dbesc($item['parent-uri']),
2245                                 intval($item['uid'])
2246                         );
2247                         if (DBM::is_result($r)) {
2248                                 dba::update('item', array('last-child' => true), array('id' => $r[0]['id']));
2249                         }
2250                 }
2251
2252                 // send the notification upstream/downstream
2253                 // The priority depends on how the deletion is done.
2254                 $drop_id = intval($item['id']);
2255                 $priority = ($interactive ? PRIORITY_HIGH : PRIORITY_LOW);
2256
2257                 Worker::add(array('priority' => $priority, 'dont_fork' => true), "Notifier", "drop", $drop_id);
2258
2259                 if (! $interactive) {
2260                         return $owner;
2261                 }
2262                 goaway(System::baseUrl() . '/' . $_SESSION['return_url']);
2263                 //NOTREACHED
2264         } else {
2265                 if (! $interactive) {
2266                         return 0;
2267                 }
2268                 notice( t('Permission denied.') . EOL);
2269                 goaway(System::baseUrl() . '/' . $_SESSION['return_url']);
2270                 //NOTREACHED
2271         }
2272
2273 }
2274
2275 /// @todo: This query seems to be really slow
2276 function first_post_date($uid, $wall = false) {
2277         $r = q("SELECT `id`, `created` FROM `item`
2278                 WHERE `uid` = %d AND `wall` = %d AND `deleted` = 0 AND `visible` = 1 AND `moderated` = 0
2279                 AND `id` = `parent`
2280                 ORDER BY `created` ASC LIMIT 1",
2281                 intval($uid),
2282                 intval($wall ? 1 : 0)
2283         );
2284         if (DBM::is_result($r)) {
2285                 // logger('first_post_date: ' . $r[0]['id'] . ' ' . $r[0]['created'], LOGGER_DATA);
2286                 return substr(datetime_convert('',date_default_timezone_get(), $r[0]['created']),0,10);
2287         }
2288         return false;
2289 }
2290
2291 /* modified posted_dates() {below} to arrange the list in years */
2292 function list_post_dates($uid, $wall) {
2293         $dnow = datetime_convert('',date_default_timezone_get(), 'now','Y-m-d');
2294
2295         $dthen = first_post_date($uid, $wall);
2296         if (! $dthen) {
2297                 return array();
2298         }
2299
2300         // Set the start and end date to the beginning of the month
2301         $dnow = substr($dnow, 0, 8) . '01';
2302         $dthen = substr($dthen, 0, 8) . '01';
2303
2304         $ret = array();
2305
2306         /*
2307          * Starting with the current month, get the first and last days of every
2308          * month down to and including the month of the first post
2309          */
2310         while (substr($dnow, 0, 7) >= substr($dthen, 0, 7)) {
2311                 $dyear = intval(substr($dnow, 0, 4));
2312                 $dstart = substr($dnow, 0, 8) . '01';
2313                 $dend = substr($dnow, 0, 8) . get_dim(intval($dnow), intval(substr($dnow, 5)));
2314                 $start_month = datetime_convert('', '', $dstart, 'Y-m-d');
2315                 $end_month = datetime_convert('', '', $dend, 'Y-m-d');
2316                 $str = day_translate(datetime_convert('', '', $dnow, 'F'));
2317                 if (!$ret[$dyear]) {
2318                         $ret[$dyear] = array();
2319                 }
2320                 $ret[$dyear][] = array($str, $end_month, $start_month);
2321                 $dnow = datetime_convert('', '', $dnow . ' -1 month', 'Y-m-d');
2322         }
2323         return $ret;
2324 }
2325
2326 function posted_dates($uid, $wall) {
2327         $dnow = datetime_convert('', date_default_timezone_get(), 'now', 'Y-m-d');
2328
2329         $dthen = first_post_date($uid, $wall);
2330         if (! $dthen) {
2331                 return array();
2332         }
2333
2334         // Set the start and end date to the beginning of the month
2335         $dnow = substr($dnow, 0, 8) . '01';
2336         $dthen = substr($dthen, 0, 8) . '01';
2337
2338         $ret = array();
2339         /*
2340          * Starting with the current month, get the first and last days of every
2341          * month down to and including the month of the first post
2342          */
2343         while (substr($dnow, 0, 7) >= substr($dthen, 0, 7)) {
2344                 $dstart = substr($dnow, 0, 8) . '01';
2345                 $dend = substr($dnow, 0, 8) . get_dim(intval($dnow), intval(substr($dnow, 5)));
2346                 $start_month = datetime_convert('', '', $dstart, 'Y-m-d');
2347                 $end_month = datetime_convert('', '', $dend, 'Y-m-d');
2348                 $str = day_translate(datetime_convert('', '', $dnow, 'F Y'));
2349                 $ret[] = array($str, $end_month, $start_month);
2350                 $dnow = datetime_convert('', '', $dnow . ' -1 month', 'Y-m-d');
2351         }
2352         return $ret;
2353 }
2354
2355
2356 function posted_date_widget($url, $uid, $wall) {
2357         $o = '';
2358
2359         if (! Feature::isEnabled($uid, 'archives')) {
2360                 return $o;
2361         }
2362
2363         // For former Facebook folks that left because of "timeline"
2364         /*
2365          * @TODO old-lost code?
2366         if ($wall && intval(PConfig::get($uid, 'system', 'no_wall_archive_widget')))
2367                 return $o;
2368         */
2369
2370         $visible_years = PConfig::get($uid,'system','archive_visible_years');
2371         if (! $visible_years) {
2372                 $visible_years = 5;
2373         }
2374
2375         $ret = list_post_dates($uid, $wall);
2376
2377         if (! DBM::is_result($ret)) {
2378                 return $o;
2379         }
2380
2381         $cutoff_year = intval(datetime_convert('',date_default_timezone_get(), 'now', 'Y')) - $visible_years;
2382         $cutoff = ((array_key_exists($cutoff_year, $ret))? true : false);
2383
2384         $o = replace_macros(get_markup_template('posted_date_widget.tpl'),array(
2385                 '$title' => t('Archives'),
2386                 '$size' => $visible_years,
2387                 '$cutoff_year' => $cutoff_year,
2388                 '$cutoff' => $cutoff,
2389                 '$url' => $url,
2390                 '$dates' => $ret,
2391                 '$showmore' => t('show more')
2392
2393         ));
2394         return $o;
2395 }