]> git.mxchange.org Git - friendica.git/blob - include/items.php
DBA: The condition can now be a complex string
[friendica.git] / include / items.php
1 <?php
2
3 /**
4  * @file include/items.php
5  */
6
7 use Friendica\App;
8 use Friendica\ParseUrl;
9 use Friendica\Util\Lock;
10 use Friendica\Core\Config;
11
12 require_once 'include/bbcode.php';
13 require_once 'include/oembed.php';
14 require_once 'include/salmon.php';
15 require_once 'include/crypto.php';
16 require_once 'include/Photo.php';
17 require_once 'include/tags.php';
18 require_once 'include/files.php';
19 require_once 'include/text.php';
20 require_once 'include/email.php';
21 require_once 'include/threads.php';
22 require_once 'include/socgraph.php';
23 require_once 'include/plaintext.php';
24 require_once 'include/ostatus.php';
25 require_once 'include/feed.php';
26 require_once 'include/Contact.php';
27 require_once 'mod/share.php';
28 require_once 'include/enotify.php';
29 require_once 'include/dfrn.php';
30 require_once 'include/group.php';
31
32 /// @TODO one day with composer autoloader no more needed
33 require_once 'library/defuse/php-encryption-1.2.1/Crypto.php';
34
35 function construct_verb($item) {
36         if ($item['verb']) {
37                 return $item['verb'];
38         }
39         return ACTIVITY_POST;
40 }
41
42 /* limit_body_size()
43  *
44  *              The purpose of this function is to apply system message length limits to
45  *              imported messages without including any embedded photos in the length
46  */
47 if (! function_exists('limit_body_size')) {
48 function limit_body_size($body) {
49
50 //      logger('limit_body_size: start', LOGGER_DEBUG);
51
52         $maxlen = get_max_import_size();
53
54         // If the length of the body, including the embedded images, is smaller
55         // than the maximum, then don't waste time looking for the images
56         if ($maxlen && (strlen($body) > $maxlen)) {
57
58                 logger('limit_body_size: the total body length exceeds the limit', LOGGER_DEBUG);
59
60                 $orig_body = $body;
61                 $new_body = '';
62                 $textlen = 0;
63                 $max_found = false;
64
65                 $img_start = strpos($orig_body, '[img');
66                 $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
67                 $img_end = ($img_start !== false ? strpos(substr($orig_body, $img_start), '[/img]') : false);
68                 while (($img_st_close !== false) && ($img_end !== false)) {
69
70                         $img_st_close++; // make it point to AFTER the closing bracket
71                         $img_end += $img_start;
72                         $img_end += strlen('[/img]');
73
74                         if (! strcmp(substr($orig_body, $img_start + $img_st_close, 5), 'data:')) {
75                                 // This is an embedded image
76
77                                 if (($textlen + $img_start) > $maxlen ) {
78                                         if ($textlen < $maxlen) {
79                                                 logger('limit_body_size: the limit happens before an embedded image', LOGGER_DEBUG);
80                                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
81                                                 $textlen = $maxlen;
82                                         }
83                                 } else {
84                                         $new_body = $new_body . substr($orig_body, 0, $img_start);
85                                         $textlen += $img_start;
86                                 }
87
88                                 $new_body = $new_body . substr($orig_body, $img_start, $img_end - $img_start);
89                         } else {
90
91                                 if (($textlen + $img_end) > $maxlen ) {
92                                         if ($textlen < $maxlen) {
93                                                 logger('limit_body_size: the limit happens before the end of a non-embedded image', LOGGER_DEBUG);
94                                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
95                                                 $textlen = $maxlen;
96                                         }
97                                 } else {
98                                         $new_body = $new_body . substr($orig_body, 0, $img_end);
99                                         $textlen += $img_end;
100                                 }
101                         }
102                         $orig_body = substr($orig_body, $img_end);
103
104                         if ($orig_body === false) {
105                                 // in case the body ends on a closing image tag
106                                 $orig_body = '';
107                         }
108
109                         $img_start = strpos($orig_body, '[img');
110                         $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
111                         $img_end = ($img_start !== false ? strpos(substr($orig_body, $img_start), '[/img]') : false);
112                 }
113
114                 if (($textlen + strlen($orig_body)) > $maxlen) {
115                         if ($textlen < $maxlen) {
116                                 logger('limit_body_size: the limit happens after the end of the last image', LOGGER_DEBUG);
117                                 $new_body = $new_body . substr($orig_body, 0, $maxlen - $textlen);
118                                 $textlen = $maxlen;
119                         }
120                 } else {
121                         logger('limit_body_size: the text size with embedded images extracted did not violate the limit', LOGGER_DEBUG);
122                         $new_body = $new_body . $orig_body;
123                         $textlen += strlen($orig_body);
124                 }
125
126                 return $new_body;
127         } else {
128                 return $body;
129         }
130 }}
131
132 function title_is_body($title, $body) {
133
134         $title = strip_tags($title);
135         $title = trim($title);
136         $title = html_entity_decode($title, ENT_QUOTES, 'UTF-8');
137         $title = str_replace(array("\n", "\r", "\t", " "), array("", "", "", ""), $title);
138
139         $body = strip_tags($body);
140         $body = trim($body);
141         $body = html_entity_decode($body, ENT_QUOTES, 'UTF-8');
142         $body = str_replace(array("\n", "\r", "\t", " "), array("", "", "", ""), $body);
143
144         if (strlen($title) < strlen($body)) {
145                 $body = substr($body, 0, strlen($title));
146         }
147
148         if (($title != $body) && (substr($title, -3) == "...")) {
149                 $pos = strrpos($title, "...");
150                 if ($pos > 0) {
151                         $title = substr($title, 0, $pos);
152                         $body = substr($body, 0, $pos);
153                 }
154         }
155
156         return ($title == $body);
157 }
158
159 function add_page_info_data($data) {
160         call_hooks('page_info_data', $data);
161
162         // It maybe is a rich content, but if it does have everything that a link has,
163         // then treat it that way
164         if (($data["type"] == "rich") && is_string($data["title"]) &&
165                 is_string($data["text"]) && (sizeof($data["images"]) > 0)) {
166                 $data["type"] = "link";
167         }
168
169         if ((($data["type"] != "link") && ($data["type"] != "video") && ($data["type"] != "photo")) || ($data["title"] == $data["url"])) {
170                 return "";
171         }
172
173         if ($no_photos && ($data["type"] == "photo")) {
174                 return "";
175         }
176
177         if (sizeof($data["images"]) > 0) {
178                 $preview = $data["images"][0];
179         } else {
180                 $preview = "";
181         }
182
183         // Escape some bad characters
184         $data["url"] = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["url"], ENT_QUOTES, 'UTF-8', false));
185         $data["title"] = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["title"], ENT_QUOTES, 'UTF-8', false));
186
187         $text = "[attachment type='".$data["type"]."'";
188
189         if ($data["text"] == "") {
190                 $data["text"] = $data["title"];
191         }
192
193         if ($data["text"] == "") {
194                 $data["text"] = $data["url"];
195         }
196
197         if ($data["url"] != "") {
198                 $text .= " url='".$data["url"]."'";
199         }
200
201         if ($data["title"] != "") {
202                 $text .= " title='".$data["title"]."'";
203         }
204
205         if (sizeof($data["images"]) > 0) {
206                 $preview = str_replace(array("[", "]"), array("&#91;", "&#93;"), htmlentities($data["images"][0]["src"], ENT_QUOTES, 'UTF-8', false));
207                 // if the preview picture is larger than 500 pixels then show it in a larger mode
208                 // But only, if the picture isn't higher than large (To prevent huge posts)
209                 if (($data["images"][0]["width"] >= 500) && ($data["images"][0]["width"] >= $data["images"][0]["height"])) {
210                         $text .= " image='".$preview."'";
211                 } else {
212                         $text .= " preview='".$preview."'";
213                 }
214         }
215
216         $text .= "]".$data["text"]."[/attachment]";
217
218         $hashtags = "";
219         if (isset($data["keywords"]) && count($data["keywords"])) {
220                 $hashtags = "\n";
221                 foreach ($data["keywords"] AS $keyword) {
222                         /// @todo make a positive list of allowed characters
223                         $hashtag = str_replace(array(" ", "+", "/", ".", "#", "'", "’", "`", "(", ")", "„", "“"),
224                                                 array("", "", "", "", "", "", "", "", "", "", "", ""), $keyword);
225                         $hashtags .= "#[url=" . App::get_baseurl() . "/search?tag=" . rawurlencode($hashtag) . "]" . $hashtag . "[/url] ";
226                 }
227         }
228
229         return "\n".$text.$hashtags;
230 }
231
232 function query_page_info($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
233
234         $data = ParseUrl::getSiteinfoCached($url, true);
235
236         if ($photo != "") {
237                 $data["images"][0]["src"] = $photo;
238         }
239
240         logger('fetch page info for ' . $url . ' ' . print_r($data, true), LOGGER_DEBUG);
241
242         if (!$keywords && isset($data["keywords"])) {
243                 unset($data["keywords"]);
244         }
245
246         if (($keyword_blacklist != "") && isset($data["keywords"])) {
247                 $list = explode(", ", $keyword_blacklist);
248                 foreach ($list AS $keyword) {
249                         $keyword = trim($keyword);
250                         $index = array_search($keyword, $data["keywords"]);
251                         if ($index !== false) {
252                                 unset($data["keywords"][$index]);
253                         }
254                 }
255         }
256
257         return $data;
258 }
259
260 function add_page_keywords($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
261         $data = query_page_info($url, $no_photos, $photo, $keywords, $keyword_blacklist);
262
263         $tags = "";
264         if (isset($data["keywords"]) && count($data["keywords"])) {
265                 foreach ($data["keywords"] AS $keyword) {
266                         $hashtag = str_replace(array(" ", "+", "/", ".", "#", "'"),
267                                 array("", "", "", "", "", ""), $keyword);
268
269                         if ($tags != "") {
270                                 $tags .= ", ";
271                         }
272
273                         $tags .= "#[url=" . App::get_baseurl() . "/search?tag=" . rawurlencode($hashtag) . "]" . $hashtag . "[/url]";
274                 }
275         }
276
277         return $tags;
278 }
279
280 function add_page_info($url, $no_photos = false, $photo = "", $keywords = false, $keyword_blacklist = "") {
281         $data = query_page_info($url, $no_photos, $photo, $keywords, $keyword_blacklist);
282
283         $text = add_page_info_data($data);
284
285         return $text;
286 }
287
288 function add_page_info_to_body($body, $texturl = false, $no_photos = false) {
289
290         logger('add_page_info_to_body: fetch page info for body ' . $body, LOGGER_DEBUG);
291
292         $URLSearchString = "^\[\]";
293
294         // Fix for Mastodon where the mentions are in a different format
295         $body = preg_replace("/\[url\=([$URLSearchString]*)\]([#!@])(.*?)\[\/url\]/ism",
296                 '$2[url=$1]$3[/url]', $body);
297
298         // Adding these spaces is a quick hack due to my problems with regular expressions :)
299         preg_match("/[^!#@]\[url\]([$URLSearchString]*)\[\/url\]/ism", " " . $body, $matches);
300
301         if (!$matches) {
302                 preg_match("/[^!#@]\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism", " " . $body, $matches);
303         }
304
305         // Convert urls without bbcode elements
306         if (!$matches && $texturl) {
307                 preg_match("/([^\]\='".'"'."]|^)(https?\:\/\/[a-zA-Z0-9\:\/\-\?\&\;\.\=\_\~\#\%\$\!\+\,]+)/ism", " ".$body, $matches);
308
309                 // Yeah, a hack. I really hate regular expressions :)
310                 if ($matches) {
311                         $matches[1] = $matches[2];
312                 }
313         }
314
315         if ($matches) {
316                 $footer = add_page_info($matches[1], $no_photos);
317         }
318
319         // Remove the link from the body if the link is attached at the end of the post
320         if (isset($footer) && (trim($footer) != "") && (strpos($footer, $matches[1]))) {
321                 $removedlink = trim(str_replace($matches[1], "", $body));
322                 if (($removedlink == "") || strstr($body, $removedlink)) {
323                         $body = $removedlink;
324                 }
325
326                 $url = str_replace(array('/', '.'), array('\/', '\.'), $matches[1]);
327                 $removedlink = preg_replace("/\[url\=" . $url . "\](.*?)\[\/url\]/ism", '', $body);
328                 if (($removedlink == "") || strstr($body, $removedlink)) {
329                         $body = $removedlink;
330                 }
331         }
332
333         // Add the page information to the bottom
334         if (isset($footer) && (trim($footer) != "")) {
335                 $body .= $footer;
336         }
337
338         return $body;
339 }
340
341 /**
342  * Adds a "lang" specification in a "postopts" element of given $arr,
343  * if possible and not already present.
344  * Expects "body" element to exist in $arr.
345  *
346  * @todo Add a parameter to request forcing override
347  */
348 function item_add_language_opt(&$arr) {
349
350         if (version_compare(PHP_VERSION, '5.3.0', '<')) {
351                  // LanguageDetect.php not available ?
352                 return;
353         }
354
355         if (x($arr, 'postopts') ) {
356                 if (strstr($arr['postopts'], 'lang=') ) {
357                         // do not override
358                         /// @TODO Add parameter to request overriding
359                         return;
360                 }
361                 $postopts = $arr['postopts'];
362         } else {
363                 $postopts = "";
364         }
365
366         require_once('library/langdet/Text/LanguageDetect.php');
367
368         $naked_body = preg_replace('/\[(.+?)\]/','', $arr['body']);
369         $l = new Text_LanguageDetect();
370         //$lng = $l->detectConfidence($naked_body);
371         //$arr['postopts'] = (($lng['language']) ? 'lang=' . $lng['language'] . ';' . $lng['confidence'] : '');
372         $lng = $l->detect($naked_body, 3);
373
374         if (sizeof($lng) > 0) {
375                 if ($postopts != "") $postopts .= '&'; // arbitrary separator, to be reviewed
376                 $postopts .= 'lang=';
377                 $sep = "";
378                 foreach ($lng as $language => $score) {
379                         $postopts .= $sep . $language . ";" . $score;
380                         $sep = ':';
381                 }
382                 $arr['postopts'] = $postopts;
383         }
384 }
385
386 /**
387  * @brief Creates an unique guid out of a given uri
388  *
389  * @param string $uri uri of an item entry
390  * @param string $host (Optional) hostname for the GUID prefix
391  * @return string unique guid
392  */
393 function uri_to_guid($uri, $host = "") {
394
395         // Our regular guid routine is using this kind of prefix as well
396         // We have to avoid that different routines could accidentally create the same value
397         $parsed = parse_url($uri);
398
399         if ($host == "") {
400                 $host = $parsed["host"];
401         }
402
403         $guid_prefix = hash("crc32", $host);
404
405         // Remove the scheme to make sure that "https" and "http" doesn't make a difference
406         unset($parsed["scheme"]);
407
408         $host_id = implode("/", $parsed);
409
410         // We could use any hash algorithm since it isn't a security issue
411         $host_hash = hash("ripemd128", $host_id);
412
413         return $guid_prefix.$host_hash;
414 }
415
416 /**
417  * @brief Store the conversation data
418  *
419  * @param array $arr Item array with conversation data
420  * @return array Item array with removed conversation data
421  */
422 function store_conversation($arr) {
423         if (in_array($arr['network'], array(NETWORK_DFRN, NETWORK_DIASPORA, NETWORK_OSTATUS))) {
424                 $conversation = array('item-uri' => $arr['uri'], 'received' => dbm::date());
425
426                 if (isset($arr['parent-uri']) && ($arr['parent-uri'] != $arr['uri'])) {
427                         $conversation['reply-to-uri'] = $arr['parent-uri'];
428                 }
429                 if (isset($arr['thr-parent']) && ($arr['thr-parent'] != $arr['uri'])) {
430                         $conversation['reply-to-uri'] = $arr['thr-parent'];
431                 }
432
433                 if (isset($arr['conversation-uri'])) {
434                         $conversation['conversation-uri'] = $arr['conversation-uri'];
435                 }
436
437                 if (isset($arr['conversation-href'])) {
438                         $conversation['conversation-href'] = $arr['conversation-href'];
439                 }
440
441                 if (isset($arr['protocol'])) {
442                         $conversation['protocol'] = $arr['protocol'];
443                 }
444
445                 if (isset($arr['source'])) {
446                         $conversation['source'] = $arr['source'];
447                 }
448
449                 $old_conv = dba::fetch_first("SELECT `item-uri`, `reply-to-uri`, `conversation-uri`, `conversation-href`, `protocol`, `source`
450                                 FROM `conversation` WHERE `item-uri` = ?", $conversation['item-uri']);
451                 if (dbm::is_result($old_conv)) {
452                         // Don't update when only the source has changed.
453                         // Only do this when there had been no source before.
454                         if ($old_conv['source'] != '') {
455                                 unset($old_conv['source']);
456                         }
457                         // Update structure data all the time but the source only when its from a better protocol.
458                         if (($old_conv['protocol'] < $conversation['protocol']) && ($old_conv['protocol'] != 0)) {
459                                 unset($conversation['protocol']);
460                                 unset($conversation['source']);
461                         }
462                         if (!dba::update('conversation', $conversation, array('item-uri' => $conversation['item-uri']), $old_conv)) {
463                                 logger('Conversation: update for '.$conversation['item-uri'].' from '.$conv['protocol'].' to '.$conversation['protocol'].' failed', LOGGER_DEBUG);
464                         }
465                 } else {
466                         if (!dba::insert('conversation', $conversation, true)) {
467                                 logger('Conversation: insert for '.$conversation['item-uri'].' (protocol '.$conversation['protocol'].') failed', LOGGER_DEBUG);
468                         }
469                 }
470         }
471
472         unset($arr['conversation-uri']);
473         unset($arr['conversation-href']);
474         unset($arr['protocol']);
475         unset($arr['source']);
476
477         return $arr;
478 }
479
480 /// @TODO add type-hint array
481 function item_store($arr, $force_parent = false, $notify = false, $dontcache = false) {
482
483         $a = get_app();
484
485         // If it is a posting where users should get notifications, then define it as wall posting
486         if ($notify) {
487                 $arr['wall'] = 1;
488                 $arr['type'] = 'wall';
489                 $arr['origin'] = 1;
490                 $arr['last-child'] = 1;
491                 $arr['network'] = NETWORK_DFRN;
492                 $arr['protocol'] = PROTOCOL_DFRN;
493
494                 // We have to avoid duplicates. So we create the GUID in form of a hash of the plink or uri.
495                 // In difference to the call to "uri_to_guid" several lines below we add the hash of our own host.
496                 // This is done because our host is the original creator of the post.
497                 if (!isset($arr['guid'])) {
498                         if (isset($arr['plink'])) {
499                                 $arr['guid'] = uri_to_guid($arr['plink'], $a->get_hostname());
500                         } elseif (isset($arr['uri'])) {
501                                 $arr['guid'] = uri_to_guid($arr['uri'], $a->get_hostname());
502                         }
503                 }
504         }
505
506         if ($notify) {
507                 $guid_prefix = "";
508         } elseif ((trim($arr['guid']) == "") && (trim($arr['plink']) != "")) {
509                 $arr['guid'] = uri_to_guid($arr['plink']);
510         } elseif ((trim($arr['guid']) == "") && (trim($arr['uri']) != "")) {
511                 $arr['guid'] = uri_to_guid($arr['uri']);
512         } else {
513                 $parsed = parse_url($arr["author-link"]);
514                 $guid_prefix = hash("crc32", $parsed["host"]);
515         }
516
517         $arr['guid']          = ((x($arr, 'guid'))          ? notags(trim($arr['guid']))          : get_guid(32, $guid_prefix));
518         $arr['uri']           = ((x($arr, 'uri'))           ? notags(trim($arr['uri']))           : item_new_uri($a->get_hostname(), $uid, $arr['guid']));
519
520         // Store conversation data
521         $arr = store_conversation($arr);
522
523         /*
524          * If a Diaspora signature structure was passed in, pull it out of the
525          * item array and set it aside for later storage.
526          */
527
528         $dsprsig = null;
529         if (x($arr, 'dsprsig')) {
530                 $encoded_signature = $arr['dsprsig'];
531                 $dsprsig = json_decode(base64_decode($arr['dsprsig']));
532                 unset($arr['dsprsig']);
533         }
534
535         // Converting the plink
536         if ($arr['network'] == NETWORK_OSTATUS) {
537                 if (isset($arr['plink'])) {
538                         $arr['plink'] = ostatus::convert_href($arr['plink']);
539                 } elseif (isset($arr['uri'])) {
540                         $arr['plink'] = ostatus::convert_href($arr['uri']);
541                 }
542         }
543
544         if (x($arr, 'gravity')) {
545                 $arr['gravity'] = intval($arr['gravity']);
546         } elseif ($arr['parent-uri'] === $arr['uri']) {
547                 $arr['gravity'] = 0;
548         } elseif (activity_match($arr['verb'],ACTIVITY_POST)) {
549                 $arr['gravity'] = 6;
550         } else {
551                 $arr['gravity'] = 6;   // extensible catchall
552         }
553
554         if (! x($arr, 'type')) {
555                 $arr['type']      = 'remote';
556         }
557
558         $uid = intval($arr['uid']);
559
560         // check for create date and expire time
561         $expire_interval = Config::get('system', 'dbclean-expire-days', 0);
562
563         $r = dba::select('user', array('expire'), array('uid' => $uid), array("limit" => 1));
564         if (dbm::is_result($r) && ($r['expire'] > 0) && ($r['expire'] < $expire_interval)) {
565                 $expire_interval = $r['expire'];
566         }
567
568         if (($expire_interval > 0) && !empty($arr['created'])) {
569                 $expire_date = time() - ($expire_interval * 86400);
570                 $created_date = strtotime($arr['created']);
571                 if ($created_date < $expire_date) {
572                         logger('item-store: item created ('.date('c', $created_date).') before expiration time ('.date('c', $expire_date).'). ignored. ' . print_r($arr,true), LOGGER_DEBUG);
573                         return 0;
574                 }
575         }
576
577         /*
578          * Do we already have this item?
579          * We have to check several networks since Friendica posts could be repeated
580          * via OStatus (maybe Diasporsa as well)
581          */
582         if (in_array(trim($arr['network']), array(NETWORK_DIASPORA, NETWORK_DFRN, NETWORK_OSTATUS, ""))) {
583                 $r = q("SELECT `id`, `network` FROM `item` WHERE `uri` = '%s' AND `uid` = %d AND `network` IN ('%s', '%s', '%s')  LIMIT 1",
584                                 dbesc(trim($arr['uri'])),
585                                 intval($uid),
586                                 dbesc(NETWORK_DIASPORA),
587                                 dbesc(NETWORK_DFRN),
588                                 dbesc(NETWORK_OSTATUS)
589                         );
590                 if (dbm::is_result($r)) {
591                         // We only log the entries with a different user id than 0. Otherwise we would have too many false positives
592                         if ($uid != 0) {
593                                 logger("Item with uri ".$arr['uri']." already existed for user ".$uid." with id ".$r[0]["id"]." target network ".$r[0]["network"]." - new network: ".$arr['network']);
594                         }
595
596                         return $r[0]["id"];
597                 }
598         }
599
600         /// @TODO old-lost code?
601         // Shouldn't happen but we want to make absolutely sure it doesn't leak from a plugin.
602         // Deactivated, since the bbcode parser can handle with it - and it destroys posts with some smileys that contain "<"
603         //if ((strpos($arr['body'],'<') !== false) || (strpos($arr['body'],'>') !== false))
604         //      $arr['body'] = strip_tags($arr['body']);
605
606         item_add_language_opt($arr);
607
608         $arr['wall']          = ((x($arr, 'wall'))          ? intval($arr['wall'])                : 0);
609         $arr['extid']         = ((x($arr, 'extid'))         ? notags(trim($arr['extid']))         : '');
610         $arr['author-name']   = ((x($arr, 'author-name'))   ? trim($arr['author-name'])   : '');
611         $arr['author-link']   = ((x($arr, 'author-link'))   ? notags(trim($arr['author-link']))   : '');
612         $arr['author-avatar'] = ((x($arr, 'author-avatar')) ? notags(trim($arr['author-avatar'])) : '');
613         $arr['owner-name']    = ((x($arr, 'owner-name'))    ? trim($arr['owner-name'])    : '');
614         $arr['owner-link']    = ((x($arr, 'owner-link'))    ? notags(trim($arr['owner-link']))    : '');
615         $arr['owner-avatar']  = ((x($arr, 'owner-avatar'))  ? notags(trim($arr['owner-avatar']))  : '');
616         $arr['received']      = ((x($arr, 'received') !== false) ? datetime_convert('UTC','UTC', $arr['received']) : datetime_convert());
617         $arr['created']       = ((x($arr, 'created') !== false) ? datetime_convert('UTC','UTC', $arr['created']) : $arr['received']);
618         $arr['edited']        = ((x($arr, 'edited') !== false) ? datetime_convert('UTC','UTC', $arr['edited']) : $arr['created']);
619         $arr['changed']       = ((x($arr, 'changed') !== false) ? datetime_convert('UTC','UTC', $arr['changed']) : $arr['created']);
620         $arr['commented']     = ((x($arr, 'commented') !== false) ? datetime_convert('UTC','UTC', $arr['commented']) : $arr['created']);
621         $arr['title']         = ((x($arr, 'title'))         ? trim($arr['title'])         : '');
622         $arr['location']      = ((x($arr, 'location'))      ? trim($arr['location'])      : '');
623         $arr['coord']         = ((x($arr, 'coord'))         ? notags(trim($arr['coord']))         : '');
624         $arr['last-child']    = ((x($arr, 'last-child'))    ? intval($arr['last-child'])          : 0 );
625         $arr['visible']       = ((x($arr, 'visible') !== false) ? intval($arr['visible'])         : 1 );
626         $arr['deleted']       = 0;
627         $arr['parent-uri']    = ((x($arr, 'parent-uri'))    ? notags(trim($arr['parent-uri']))    : $arr['uri']);
628         $arr['verb']          = ((x($arr, 'verb'))          ? notags(trim($arr['verb']))          : '');
629         $arr['object-type']   = ((x($arr, 'object-type'))   ? notags(trim($arr['object-type']))   : '');
630         $arr['object']        = ((x($arr, 'object'))        ? trim($arr['object'])                : '');
631         $arr['target-type']   = ((x($arr, 'target-type'))   ? notags(trim($arr['target-type']))   : '');
632         $arr['target']        = ((x($arr, 'target'))        ? trim($arr['target'])                : '');
633         $arr['plink']         = ((x($arr, 'plink'))         ? notags(trim($arr['plink']))         : '');
634         $arr['allow_cid']     = ((x($arr, 'allow_cid'))     ? trim($arr['allow_cid'])             : '');
635         $arr['allow_gid']     = ((x($arr, 'allow_gid'))     ? trim($arr['allow_gid'])             : '');
636         $arr['deny_cid']      = ((x($arr, 'deny_cid'))      ? trim($arr['deny_cid'])              : '');
637         $arr['deny_gid']      = ((x($arr, 'deny_gid'))      ? trim($arr['deny_gid'])              : '');
638         $arr['private']       = ((x($arr, 'private'))       ? intval($arr['private'])             : 0 );
639         $arr['bookmark']      = ((x($arr, 'bookmark'))      ? intval($arr['bookmark'])            : 0 );
640         $arr['body']          = ((x($arr, 'body'))          ? trim($arr['body'])                  : '');
641         $arr['tag']           = ((x($arr, 'tag'))           ? notags(trim($arr['tag']))           : '');
642         $arr['attach']        = ((x($arr, 'attach'))        ? notags(trim($arr['attach']))        : '');
643         $arr['app']           = ((x($arr, 'app'))           ? notags(trim($arr['app']))           : '');
644         $arr['origin']        = ((x($arr, 'origin'))        ? intval($arr['origin'])              : 0 );
645         $arr['network']       = ((x($arr, 'network'))       ? trim($arr['network'])               : '');
646         $arr['postopts']      = ((x($arr, 'postopts'))      ? trim($arr['postopts'])              : '');
647         $arr['resource-id']   = ((x($arr, 'resource-id'))   ? trim($arr['resource-id'])           : '');
648         $arr['event-id']      = ((x($arr, 'event-id'))      ? intval($arr['event-id'])            : 0 );
649         $arr['inform']        = ((x($arr, 'inform'))        ? trim($arr['inform'])                : '');
650         $arr['file']          = ((x($arr, 'file'))          ? trim($arr['file'])                  : '');
651
652         // When there is no content then we don't post it
653         if ($arr['body'].$arr['title'] == '') {
654                 return 0;
655         }
656
657         // Items cannot be stored before they happen ...
658         if ($arr['created'] > datetime_convert()) {
659                 $arr['created'] = datetime_convert();
660         }
661
662         // We haven't invented time travel by now.
663         if ($arr['edited'] > datetime_convert()) {
664                 $arr['edited'] = datetime_convert();
665         }
666
667         if (($arr['author-link'] == "") && ($arr['owner-link'] == "")) {
668                 logger("Both author-link and owner-link are empty. Called by: " . App::callstack(), LOGGER_DEBUG);
669         }
670
671         if ($arr['plink'] == "") {
672                 $arr['plink'] = App::get_baseurl() . '/display/' . urlencode($arr['guid']);
673         }
674
675         if ($arr['network'] == "") {
676                 $r = q("SELECT `network` FROM `contact` WHERE `network` IN ('%s', '%s', '%s') AND `nurl` = '%s' AND `uid` = %d LIMIT 1",
677                         dbesc(NETWORK_DFRN), dbesc(NETWORK_DIASPORA), dbesc(NETWORK_OSTATUS),
678                         dbesc(normalise_link($arr['author-link'])),
679                         intval($arr['uid'])
680                 );
681
682                 if (!dbm::is_result($r))
683                         $r = q("SELECT `network` FROM `gcontact` WHERE `network` IN ('%s', '%s', '%s') AND `nurl` = '%s' LIMIT 1",
684                                 dbesc(NETWORK_DFRN), dbesc(NETWORK_DIASPORA), dbesc(NETWORK_OSTATUS),
685                                 dbesc(normalise_link($arr['author-link']))
686                         );
687
688                 if (!dbm::is_result($r)) {
689                         $r = q("SELECT `network` FROM `contact` WHERE `id` = %d AND `uid` = %d LIMIT 1",
690                                 intval($arr['contact-id']),
691                                 intval($arr['uid'])
692                         );
693                 }
694
695                 if (dbm::is_result($r)) {
696                         $arr['network'] = $r[0]["network"];
697                 }
698
699                 // Fallback to friendica (why is it empty in some cases?)
700                 if ($arr['network'] == "") {
701                         $arr['network'] = NETWORK_DFRN;
702                 }
703
704                 logger("item_store: Set network to " . $arr["network"] . " for " . $arr["uri"], LOGGER_DEBUG);
705         }
706
707         // The contact-id should be set before "item_store" was called - but there seems to be some issues
708         if ($arr["contact-id"] == 0) {
709                 /*
710                  * First we are looking for a suitable contact that matches with the author of the post
711                  * This is done only for comments (See below explanation at "gcontact-id")
712                  */
713                 if ($arr['parent-uri'] != $arr['uri']) {
714                         $arr["contact-id"] = get_contact($arr['author-link'], $uid);
715                 }
716
717                 // If not present then maybe the owner was found
718                 if ($arr["contact-id"] == 0) {
719                         $arr["contact-id"] = get_contact($arr['owner-link'], $uid);
720                 }
721
722                 // Still missing? Then use the "self" contact of the current user
723                 if ($arr["contact-id"] == 0) {
724                         $r = q("SELECT `id` FROM `contact` WHERE `self` AND `uid` = %d", intval($uid));
725
726                         if (dbm::is_result($r)) {
727                                 $arr["contact-id"] = $r[0]["id"];
728                         }
729                 }
730
731                 logger("Contact-id was missing for post ".$arr["guid"]." from user id ".$uid." - now set to ".$arr["contact-id"], LOGGER_DEBUG);
732         }
733
734         if ($arr["gcontact-id"] == 0) {
735                 /*
736                  * The gcontact should mostly behave like the contact. But is is supposed to be global for the system.
737                  * This means that wall posts, repeated posts, etc. should have the gcontact id of the owner.
738                  * On comments the author is the better choice.
739                  */
740                 if ($arr['parent-uri'] === $arr['uri']) {
741                         $arr["gcontact-id"] = get_gcontact_id(array("url" => $arr['owner-link'], "network" => $arr['network'],
742                                                                  "photo" => $arr['owner-avatar'], "name" => $arr['owner-name']));
743                 } else {
744                         $arr["gcontact-id"] = get_gcontact_id(array("url" => $arr['author-link'], "network" => $arr['network'],
745                                                                  "photo" => $arr['author-avatar'], "name" => $arr['author-name']));
746                 }
747         }
748
749         if ($arr["author-id"] == 0) {
750                 $arr["author-id"] = get_contact($arr["author-link"], 0);
751         }
752
753         if ($arr["owner-id"] == 0) {
754                 $arr["owner-id"] = get_contact($arr["owner-link"], 0);
755         }
756
757         if ($arr['guid'] != "") {
758                 // Checking if there is already an item with the same guid
759                 logger('checking for an item for user '.$arr['uid'].' on network '.$arr['network'].' with the guid '.$arr['guid'], LOGGER_DEBUG);
760                 $r = q("SELECT `guid` FROM `item` WHERE `guid` = '%s' AND `network` = '%s' AND `uid` = '%d' LIMIT 1",
761                         dbesc($arr['guid']), dbesc($arr['network']), intval($arr['uid']));
762
763                 if (dbm::is_result($r)) {
764                         logger('found item with guid '.$arr['guid'].' for user '.$arr['uid'].' on network '.$arr['network'], LOGGER_DEBUG);
765                         return 0;
766                 }
767         }
768
769         // Check for hashtags in the body and repair or add hashtag links
770         item_body_set_hashtags($arr);
771
772         $arr['thr-parent'] = $arr['parent-uri'];
773
774         if ($arr['parent-uri'] === $arr['uri']) {
775                 $parent_id = 0;
776                 $parent_deleted = 0;
777                 $allow_cid = $arr['allow_cid'];
778                 $allow_gid = $arr['allow_gid'];
779                 $deny_cid  = $arr['deny_cid'];
780                 $deny_gid  = $arr['deny_gid'];
781                 $notify_type = 'wall-new';
782         } else {
783
784                 // find the parent and snarf the item id and ACLs
785                 // and anything else we need to inherit
786
787                 $r = q("SELECT * FROM `item` WHERE `uri` = '%s' AND `uid` = %d ORDER BY `id` ASC LIMIT 1",
788                         dbesc($arr['parent-uri']),
789                         intval($arr['uid'])
790                 );
791
792                 if (dbm::is_result($r)) {
793
794                         // is the new message multi-level threaded?
795                         // even though we don't support it now, preserve the info
796                         // and re-attach to the conversation parent.
797
798                         if ($r[0]['uri'] != $r[0]['parent-uri']) {
799                                 $arr['parent-uri'] = $r[0]['parent-uri'];
800                                 $z = q("SELECT * FROM `item` WHERE `uri` = '%s' AND `parent-uri` = '%s' AND `uid` = %d
801                                         ORDER BY `id` ASC LIMIT 1",
802                                         dbesc($r[0]['parent-uri']),
803                                         dbesc($r[0]['parent-uri']),
804                                         intval($arr['uid'])
805                                 );
806
807                                 if (dbm::is_result($z)) {
808                                         $r = $z;
809                                 }
810                         }
811
812                         $parent_id      = $r[0]['id'];
813                         $parent_deleted = $r[0]['deleted'];
814                         $allow_cid      = $r[0]['allow_cid'];
815                         $allow_gid      = $r[0]['allow_gid'];
816                         $deny_cid       = $r[0]['deny_cid'];
817                         $deny_gid       = $r[0]['deny_gid'];
818                         $arr['wall']    = $r[0]['wall'];
819                         $notify_type    = 'comment-new';
820
821                         /*
822                          * If the parent is private, force privacy for the entire conversation
823                          * This differs from the above settings as it subtly allows comments from
824                          * email correspondents to be private even if the overall thread is not.
825                          */
826                         if ($r[0]['private']) {
827                                 $arr['private'] = $r[0]['private'];
828                         }
829
830                         /*
831                          * Edge case. We host a public forum that was originally posted to privately.
832                          * The original author commented, but as this is a comment, the permissions
833                          * weren't fixed up so it will still show the comment as private unless we fix it here.
834                          */
835                         if ((intval($r[0]['forum_mode']) == 1) && (! $r[0]['private'])) {
836                                 $arr['private'] = 0;
837                         }
838
839                         // If its a post from myself then tag the thread as "mention"
840                         logger("item_store: Checking if parent ".$parent_id." has to be tagged as mention for user ".$arr['uid'], LOGGER_DEBUG);
841                         $u = q("SELECT `nickname` FROM `user` WHERE `uid` = %d", intval($arr['uid']));
842                         if (dbm::is_result($u)) {
843                                 $a = get_app();
844                                 $self = normalise_link(App::get_baseurl() . '/profile/' . $u[0]['nickname']);
845                                 logger("item_store: 'myself' is ".$self." for parent ".$parent_id." checking against ".$arr['author-link']." and ".$arr['owner-link'], LOGGER_DEBUG);
846                                 if ((normalise_link($arr['author-link']) == $self) || (normalise_link($arr['owner-link']) == $self)) {
847                                         dba::update('thread', array('mention' => true), array('iid' => $parent_id));
848                                         logger("item_store: tagged thread ".$parent_id." as mention for user ".$self, LOGGER_DEBUG);
849                                 }
850                         }
851                 } else {
852                         /*
853                          * Allow one to see reply tweets from status.net even when
854                          * we don't have or can't see the original post.
855                          */
856                         if ($force_parent) {
857                                 logger('item_store: $force_parent=true, reply converted to top-level post.');
858                                 $parent_id = 0;
859                                 $arr['parent-uri'] = $arr['uri'];
860                                 $arr['gravity'] = 0;
861                         } else {
862                                 logger('item_store: item parent '.$arr['parent-uri'].' for '.$arr['uid'].' was not found - ignoring item');
863                                 return 0;
864                         }
865
866                         $parent_deleted = 0;
867                 }
868         }
869
870         $r = q("SELECT `id` FROM `item` WHERE `uri` = '%s' AND `network` IN ('%s', '%s') AND `uid` = %d LIMIT 1",
871                 dbesc($arr['uri']),
872                 dbesc($arr['network']),
873                 dbesc(NETWORK_DFRN),
874                 intval($arr['uid'])
875         );
876         if (dbm::is_result($r)) {
877                 logger('duplicated item with the same uri found. '.print_r($arr,true));
878                 return 0;
879         }
880
881         // On Friendica and Diaspora the GUID is unique
882         if (in_array($arr['network'], array(NETWORK_DFRN, NETWORK_DIASPORA))) {
883                 $r = q("SELECT `id` FROM `item` WHERE `guid` = '%s' AND `uid` = %d LIMIT 1",
884                         dbesc($arr['guid']),
885                         intval($arr['uid'])
886                 );
887                 if (dbm::is_result($r)) {
888                         logger('duplicated item with the same guid found. '.print_r($arr,true));
889                         return 0;
890                 }
891         } else {
892                 // Check for an existing post with the same content. There seems to be a problem with OStatus.
893                 $r = q("SELECT `id` FROM `item` WHERE `body` = '%s' AND `network` = '%s' AND `created` = '%s' AND `contact-id` = %d AND `uid` = %d LIMIT 1",
894                         dbesc($arr['body']),
895                         dbesc($arr['network']),
896                         dbesc($arr['created']),
897                         intval($arr['contact-id']),
898                         intval($arr['uid'])
899                 );
900                 if (dbm::is_result($r)) {
901                         logger('duplicated item with the same body found. '.print_r($arr,true));
902                         return 0;
903                 }
904         }
905
906         // Is this item available in the global items (with uid=0)?
907         if ($arr["uid"] == 0) {
908                 $arr["global"] = true;
909
910                 // Set the global flag on all items if this was a global item entry
911                 dba::update('item', array('global' => true), array('uri' => $arr["uri"]));
912         } else {
913                 $isglobal = q("SELECT `global` FROM `item` WHERE `uid` = 0 AND `uri` = '%s'", dbesc($arr["uri"]));
914
915                 $arr["global"] = (dbm::is_result($isglobal) && count($isglobal) > 0);
916         }
917
918         // ACL settings
919         if (strlen($allow_cid) || strlen($allow_gid) || strlen($deny_cid) || strlen($deny_gid)) {
920                 $private = 1;
921         } else {
922                 $private = $arr['private'];
923         }
924
925         $arr["allow_cid"] = $allow_cid;
926         $arr["allow_gid"] = $allow_gid;
927         $arr["deny_cid"] = $deny_cid;
928         $arr["deny_gid"] = $deny_gid;
929         $arr["private"] = $private;
930         $arr["deleted"] = $parent_deleted;
931
932         // Fill the cache field
933         put_item_in_cache($arr);
934
935         if ($notify) {
936                 call_hooks('post_local', $arr);
937         } else {
938                 call_hooks('post_remote', $arr);
939         }
940
941         if (x($arr, 'cancel')) {
942                 logger('item_store: post cancelled by plugin.');
943                 return 0;
944         }
945
946         /*
947          * Check for already added items.
948          * There is a timing issue here that sometimes creates double postings.
949          * An unique index would help - but the limitations of MySQL (maximum size of index values) prevent this.
950          */
951         if ($arr["uid"] == 0) {
952                 $r = qu("SELECT `id` FROM `item` WHERE `uri` = '%s' AND `uid` = 0 LIMIT 1", dbesc(trim($arr['uri'])));
953                 if (dbm::is_result($r)) {
954                         logger('Global item already stored. URI: '.$arr['uri'].' on network '.$arr['network'], LOGGER_DEBUG);
955                         return 0;
956                 }
957         }
958
959         logger('item_store: ' . print_r($arr,true), LOGGER_DATA);
960
961         dba::transaction();
962         $r = dba::insert('item', $arr);
963
964         // When the item was successfully stored we fetch the ID of the item.
965         if (dbm::is_result($r)) {
966                 $current_post = dba::lastInsertId();
967         } else {
968                 // This can happen - for example - if there are locking timeouts.
969                 dba::rollback();
970
971                 // Store the data into a spool file so that we can try again later.
972
973                 // At first we restore the Diaspora signature that we removed above.
974                 if (isset($encoded_signature)) {
975                         $arr['dsprsig'] = $encoded_signature;
976                 }
977
978                 // Now we store the data in the spool directory
979                 // We use "microtime" to keep the arrival order and "mt_rand" to avoid duplicates
980                 $file = 'item-'.round(microtime(true) * 10000).'-'.mt_rand().'.msg';
981
982                 $spoolpath = get_spoolpath();
983                 if ($spoolpath != "") {
984                         $spool = $spoolpath.'/'.$file;
985                         file_put_contents($spool, json_encode($arr));
986                         logger("Item wasn't stored - Item was spooled into file ".$file, LOGGER_DEBUG);
987                 }
988                 return 0;
989         }
990
991         if ($current_post == 0) {
992                 // This is one of these error messages that never should occur.
993                 logger("couldn't find created item - we better quit now.");
994                 dba::rollback();
995                 return 0;
996         }
997
998         // How much entries have we created?
999         // We wouldn't need this query when we could use an unique index - but MySQL has length problems with them.
1000         $r = q("SELECT COUNT(*) AS `entries` FROM `item` WHERE `uri` = '%s' AND `uid` = %d AND `network` = '%s'",
1001                 dbesc($arr['uri']),
1002                 intval($arr['uid']),
1003                 dbesc($arr['network'])
1004         );
1005
1006         if (!dbm::is_result($r)) {
1007                 // This shouldn't happen, since COUNT always works when the database connection is there.
1008                 logger("We couldn't count the stored entries. Very strange ...");
1009                 dba::rollback();
1010                 return 0;
1011         }
1012
1013         if ($r[0]["entries"] > 1) {
1014                 // There are duplicates. We delete our just created entry.
1015                 logger('Duplicated post occurred. uri = ' . $arr['uri'] . ' uid = ' . $arr['uid']);
1016
1017                 // Yes, we could do a rollback here - but we are having many users with MyISAM.
1018                 dba::delete('item', array('id' => $current_post));
1019                 dba::commit();
1020                 return 0;
1021         } elseif ($r[0]["entries"] == 0) {
1022                 // This really should never happen since we quit earlier if there were problems.
1023                 logger("Something is terribly wrong. We haven't found our created entry.");
1024                 dba::rollback();
1025                 return 0;
1026         }
1027
1028         logger('item_store: created item '.$current_post);
1029         item_set_last_item($arr);
1030
1031         if (!$parent_id || ($arr['parent-uri'] === $arr['uri'])) {
1032                 $parent_id = $current_post;
1033         }
1034
1035         // Set parent id
1036         $r = dba::update('item', array('parent' => $parent_id), array('id' => $current_post));
1037
1038         $arr['id'] = $current_post;
1039         $arr['parent'] = $parent_id;
1040
1041         // update the commented timestamp on the parent
1042         // Only update "commented" if it is really a comment
1043         if (($arr['verb'] == ACTIVITY_POST) || !get_config("system", "like_no_comment")) {
1044                 dba::update('item', array('commented' => datetime_convert(), 'changed' => datetime_convert()), array('id' => $parent_id));
1045         } else {
1046                 dba::update('item', array('changed' => datetime_convert()), array('id' => $parent_id));
1047         }
1048
1049         if ($dsprsig) {
1050
1051                 /*
1052                  * Friendica servers lower than 3.4.3-2 had double encoded the signature ...
1053                  * We can check for this condition when we decode and encode the stuff again.
1054                  */
1055                 if (base64_encode(base64_decode(base64_decode($dsprsig->signature))) == base64_decode($dsprsig->signature)) {
1056                         $dsprsig->signature = base64_decode($dsprsig->signature);
1057                         logger("Repaired double encoded signature from handle ".$dsprsig->signer, LOGGER_DEBUG);
1058                 }
1059
1060                 dba::insert('sign', array('iid' => $current_post, 'signed_text' => $dsprsig->signed_text,
1061                                         'signature' => $dsprsig->signature, 'signer' => $dsprsig->signer));
1062         }
1063
1064         $deleted = tag_deliver($arr['uid'], $current_post);
1065
1066         /*
1067          * current post can be deleted if is for a community page and no mention are
1068          * in it.
1069          */
1070         if (!$deleted && !$dontcache) {
1071
1072                 $r = q('SELECT * FROM `item` WHERE `id` = %d', intval($current_post));
1073                 if ((dbm::is_result($r)) && (count($r) == 1)) {
1074                         if ($notify) {
1075                                 call_hooks('post_local_end', $r[0]);
1076                         } else {
1077                                 call_hooks('post_remote_end', $r[0]);
1078                         }
1079                 } else {
1080                         logger('item_store: new item not found in DB, id ' . $current_post);
1081                 }
1082         }
1083
1084         if ($arr['parent-uri'] === $arr['uri']) {
1085                 add_thread($current_post);
1086         } else {
1087                 update_thread($parent_id);
1088         }
1089
1090         dba::commit();
1091
1092         /*
1093          * Due to deadlock issues with the "term" table we are doing these steps after the commit.
1094          * This is not perfect - but a workable solution until we found the reason for the problem.
1095          */
1096         create_tags_from_item($current_post);
1097         create_files_from_item($current_post);
1098
1099         /*
1100          * If this is now the last-child, force all _other_ children of this parent to *not* be last-child
1101          * It is done after the transaction to avoid dead locks.
1102          */
1103         if ($arr['last-child']) {
1104                 $r = q("UPDATE `item` SET `last-child` = 0 WHERE `parent-uri` = '%s' AND `uid` = %d AND `id` != %d",
1105                         dbesc($arr['uri']),
1106                         intval($arr['uid']),
1107                         intval($current_post)
1108                 );
1109         }
1110
1111         if ($arr['parent-uri'] === $arr['uri']) {
1112                 add_shadow_thread($current_post);
1113         } else {
1114                 add_shadow_entry($current_post);
1115         }
1116
1117         check_item_notification($current_post, $uid);
1118
1119         if ($notify) {
1120                 proc_run(array('priority' => PRIORITY_HIGH, 'dont_fork' => true), "include/notifier.php", $notify_type, $current_post);
1121         }
1122
1123         return $current_post;
1124 }
1125
1126 /**
1127  * @brief Set "success_update" and "last-item" to the date of the last time we heard from this contact
1128  *
1129  * This can be used to filter for inactive contacts.
1130  * Only do this for public postings to avoid privacy problems, since poco data is public.
1131  * Don't set this value if it isn't from the owner (could be an author that we don't know)
1132  *
1133  * @param array $arr Contains the just posted item record
1134  */
1135 function item_set_last_item($arr) {
1136
1137         $update = (!$arr['private'] && (($arr["author-link"] === $arr["owner-link"]) || ($arr["parent-uri"] === $arr["uri"])));
1138
1139         // Is it a forum? Then we don't care about the rules from above
1140         if (!$update && ($arr["network"] == NETWORK_DFRN) && ($arr["parent-uri"] === $arr["uri"])) {
1141                 $isforum = q("SELECT `forum` FROM `contact` WHERE `id` = %d AND `forum`",
1142                                 intval($arr['contact-id']));
1143                 if (dbm::is_result($isforum)) {
1144                         $update = true;
1145                 }
1146         }
1147
1148         if ($update) {
1149                 dba::update('contact', array('success_update' => $arr['received'], 'last-item' => $arr['received']),
1150                         array('id' => $arr['contact-id']));
1151         }
1152         // Now do the same for the system wide contacts with uid=0
1153         if (!$arr['private']) {
1154                 dba::update('contact', array('success_update' => $arr['received'], 'last-item' => $arr['received']),
1155                         array('id' => $arr['owner-id']));
1156
1157                 if ($arr['owner-id'] != $arr['author-id']) {
1158                         dba::update('contact', array('success_update' => $arr['received'], 'last-item' => $arr['received']),
1159                                 array('id' => $arr['author-id']));
1160                 }
1161         }
1162 }
1163
1164 function item_body_set_hashtags(&$item) {
1165
1166         $tags = get_tags($item["body"]);
1167
1168         // No hashtags?
1169         if (!count($tags)) {
1170                 return false;
1171         }
1172
1173         // This sorting is important when there are hashtags that are part of other hashtags
1174         // Otherwise there could be problems with hashtags like #test and #test2
1175         rsort($tags);
1176
1177         $a = get_app();
1178
1179         $URLSearchString = "^\[\]";
1180
1181         /// @TODO old-lost code?
1182         // All hashtags should point to the home server
1183         //$item["body"] = preg_replace("/#\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1184         //              "#[url=".App::get_baseurl()."/search?tag=$2]$2[/url]", $item["body"]);
1185
1186         //$item["tag"] = preg_replace("/#\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1187         //              "#[url=".App::get_baseurl()."/search?tag=$2]$2[/url]", $item["tag"]);
1188
1189         // mask hashtags inside of url, bookmarks and attachments to avoid urls in urls
1190         $item["body"] = preg_replace_callback("/\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1191                 function ($match) {
1192                         return ("[url=" . str_replace("#", "&num;", $match[1]) . "]" . str_replace("#", "&num;", $match[2]) . "[/url]");
1193                 }, $item["body"]);
1194
1195         $item["body"] = preg_replace_callback("/\[bookmark\=([$URLSearchString]*)\](.*?)\[\/bookmark\]/ism",
1196                 function ($match) {
1197                         return ("[bookmark=" . str_replace("#", "&num;", $match[1]) . "]" . str_replace("#", "&num;", $match[2]) . "[/bookmark]");
1198                 }, $item["body"]);
1199
1200         $item["body"] = preg_replace_callback("/\[attachment (.*)\](.*?)\[\/attachment\]/ism",
1201                 function ($match) {
1202                         return ("[attachment " . str_replace("#", "&num;", $match[1]) . "]" . $match[2] . "[/attachment]");
1203                 }, $item["body"]);
1204
1205         // Repair recursive urls
1206         $item["body"] = preg_replace("/&num;\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1207                         "&num;$2", $item["body"]);
1208
1209         foreach ($tags as $tag) {
1210                 if ((strpos($tag, '#') !== 0) || (strpos($tag, '[url='))) {
1211                         continue;
1212                 }
1213
1214                 $basetag = str_replace('_',' ',substr($tag,1));
1215
1216                 $newtag = '#[url=' . App::get_baseurl() . '/search?tag=' . rawurlencode($basetag) . ']' . $basetag . '[/url]';
1217
1218                 $item["body"] = str_replace($tag, $newtag, $item["body"]);
1219
1220                 if (!stristr($item["tag"], "/search?tag=" . $basetag . "]" . $basetag . "[/url]")) {
1221                         if (strlen($item["tag"])) {
1222                                 $item["tag"] = ','.$item["tag"];
1223                         }
1224                         $item["tag"] = $newtag.$item["tag"];
1225                 }
1226         }
1227
1228         // Convert back the masked hashtags
1229         $item["body"] = str_replace("&num;", "#", $item["body"]);
1230 }
1231
1232 function get_item_guid($id) {
1233         $r = q("SELECT `guid` FROM `item` WHERE `id` = %d LIMIT 1", intval($id));
1234         if (dbm::is_result($r)) {
1235                 return $r[0]["guid"];
1236         } else {
1237                 /// @TODO This else-block can be elimited again
1238                 return "";
1239         }
1240 }
1241
1242 function get_item_id($guid, $uid = 0) {
1243
1244         $nick = "";
1245         $id = 0;
1246
1247         if ($uid == 0) {
1248                 $uid == local_user();
1249         }
1250
1251         // Does the given user have this item?
1252         if ($uid) {
1253                 $r = q("SELECT `item`.`id`, `user`.`nickname` FROM `item` INNER JOIN `user` ON `user`.`uid` = `item`.`uid`
1254                         WHERE `item`.`visible` = 1 AND `item`.`deleted` = 0 AND `item`.`moderated` = 0
1255                                 AND `item`.`guid` = '%s' AND `item`.`uid` = %d", dbesc($guid), intval($uid));
1256                 if (dbm::is_result($r)) {
1257                         $id = $r[0]["id"];
1258                         $nick = $r[0]["nickname"];
1259                 }
1260         }
1261
1262         // Or is it anywhere on the server?
1263         if ($nick == "") {
1264                 $r = q("SELECT `item`.`id`, `user`.`nickname` FROM `item` INNER JOIN `user` ON `user`.`uid` = `item`.`uid`
1265                         WHERE `item`.`visible` = 1 AND `item`.`deleted` = 0 AND `item`.`moderated` = 0
1266                                 AND `item`.`allow_cid` = ''  AND `item`.`allow_gid` = ''
1267                                 AND `item`.`deny_cid`  = '' AND `item`.`deny_gid`  = ''
1268                                 AND `item`.`private` = 0 AND `item`.`wall` = 1
1269                                 AND `item`.`guid` = '%s'", dbesc($guid));
1270                 if (dbm::is_result($r)) {
1271                         $id = $r[0]["id"];
1272                         $nick = $r[0]["nickname"];
1273                 }
1274         }
1275         return array("nick" => $nick, "id" => $id);
1276 }
1277
1278 // return - test
1279 function get_item_contact($item, $contacts) {
1280         if (! count($contacts) || (! is_array($item))) {
1281                 return false;
1282         }
1283         foreach ($contacts as $contact) {
1284                 if ($contact['id'] == $item['contact-id']) {
1285                         return $contact;
1286                         break; // NOTREACHED
1287                 }
1288         }
1289         return false;
1290 }
1291
1292 /**
1293  * look for mention tags and setup a second delivery chain for forum/community posts if appropriate
1294  * @param int $uid
1295  * @param int $item_id
1296  * @return bool true if item was deleted, else false
1297  */
1298 function tag_deliver($uid, $item_id) {
1299
1300         $a = get_app();
1301
1302         $mention = false;
1303
1304         $u = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1305                 intval($uid)
1306         );
1307
1308         if (! dbm::is_result($u)) {
1309                 return;
1310         }
1311
1312         $community_page = (($u[0]['page-flags'] == PAGE_COMMUNITY) ? true : false);
1313         $prvgroup = (($u[0]['page-flags'] == PAGE_PRVGROUP) ? true : false);
1314
1315
1316         $i = q("SELECT * FROM `item` WHERE `id` = %d AND `uid` = %d LIMIT 1",
1317                 intval($item_id),
1318                 intval($uid)
1319         );
1320         if (! dbm::is_result($i)) {
1321                 return;
1322         }
1323
1324         $item = $i[0];
1325
1326         $link = normalise_link(App::get_baseurl() . '/profile/' . $u[0]['nickname']);
1327
1328         /*
1329          * Diaspora uses their own hardwired link URL in @-tags
1330          * instead of the one we supply with webfinger
1331          */
1332         $dlink = normalise_link(App::get_baseurl() . '/u/' . $u[0]['nickname']);
1333
1334         $cnt = preg_match_all('/[\@\!]\[url\=(.*?)\](.*?)\[\/url\]/ism', $item['body'], $matches, PREG_SET_ORDER);
1335         if ($cnt) {
1336                 foreach ($matches as $mtch) {
1337                         if (link_compare($link, $mtch[1]) || link_compare($dlink, $mtch[1])) {
1338                                 $mention = true;
1339                                 logger('tag_deliver: mention found: ' . $mtch[2]);
1340                         }
1341                 }
1342         }
1343
1344         if (! $mention) {
1345                 if (($community_page || $prvgroup) &&
1346                           (!$item['wall']) && (!$item['origin']) && ($item['id'] == $item['parent'])) {
1347                         // mmh.. no mention.. community page or private group... no wall.. no origin.. top-post (not a comment)
1348                         // delete it!
1349                         logger("tag_deliver: no-mention top-level post to communuty or private group. delete.");
1350                         dba::delete('item', array('id' => $item_id));
1351                         return true;
1352                 }
1353                 return;
1354         }
1355
1356         $arr = array('item' => $item, 'user' => $u[0], 'contact' => $r[0]);
1357
1358         call_hooks('tagged', $arr);
1359
1360         if ((! $community_page) && (! $prvgroup)) {
1361                 return;
1362         }
1363
1364         /*
1365          * tgroup delivery - setup a second delivery chain
1366          * prevent delivery looping - only proceed
1367          * if the message originated elsewhere and is a top-level post
1368          */
1369         if (($item['wall']) || ($item['origin']) || ($item['id'] != $item['parent'])) {
1370                 return;
1371         }
1372
1373         // now change this copy of the post to a forum head message and deliver to all the tgroup members
1374         $c = q("SELECT `name`, `url`, `thumb` FROM `contact` WHERE `self` = 1 AND `uid` = %d LIMIT 1",
1375                 intval($u[0]['uid'])
1376         );
1377         if (! dbm::is_result($c)) {
1378                 return;
1379         }
1380
1381         // also reset all the privacy bits to the forum default permissions
1382
1383         $private = ($u[0]['allow_cid'] || $u[0]['allow_gid'] || $u[0]['deny_cid'] || $u[0]['deny_gid']) ? 1 : 0;
1384
1385         $forum_mode = (($prvgroup) ? 2 : 1);
1386
1387         q("UPDATE `item` SET `wall` = 1, `origin` = 1, `forum_mode` = %d, `owner-name` = '%s', `owner-link` = '%s', `owner-avatar` = '%s',
1388                 `private` = %d, `allow_cid` = '%s', `allow_gid` = '%s', `deny_cid` = '%s', `deny_gid` = '%s'  WHERE `id` = %d",
1389                 intval($forum_mode),
1390                 dbesc($c[0]['name']),
1391                 dbesc($c[0]['url']),
1392                 dbesc($c[0]['thumb']),
1393                 intval($private),
1394                 dbesc($u[0]['allow_cid']),
1395                 dbesc($u[0]['allow_gid']),
1396                 dbesc($u[0]['deny_cid']),
1397                 dbesc($u[0]['deny_gid']),
1398                 intval($item_id)
1399         );
1400         update_thread($item_id);
1401
1402         proc_run(array('priority' => PRIORITY_HIGH, 'dont_fork' => true), 'include/notifier.php', 'tgroup', $item_id);
1403
1404 }
1405
1406
1407
1408 function tgroup_check($uid, $item) {
1409
1410         $mention = false;
1411
1412         // check that the message originated elsewhere and is a top-level post
1413
1414         if (($item['wall']) || ($item['origin']) || ($item['uri'] != $item['parent-uri'])) {
1415                 return false;
1416         }
1417
1418         /// @TODO Encapsulate this or find it encapsulated and replace all occurrances
1419         $u = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1420                 intval($uid)
1421         );
1422         if (! dbm::is_result($u)) {
1423                 return false;
1424         }
1425
1426         $community_page = (($u[0]['page-flags'] == PAGE_COMMUNITY) ? true : false);
1427         $prvgroup = (($u[0]['page-flags'] == PAGE_PRVGROUP) ? true : false);
1428
1429         $link = normalise_link(App::get_baseurl() . '/profile/' . $u[0]['nickname']);
1430
1431         /*
1432          * Diaspora uses their own hardwired link URL in @-tags
1433          * instead of the one we supply with webfinger
1434          */
1435         $dlink = normalise_link(App::get_baseurl() . '/u/' . $u[0]['nickname']);
1436
1437         $cnt = preg_match_all('/[\@\!]\[url\=(.*?)\](.*?)\[\/url\]/ism', $item['body'], $matches, PREG_SET_ORDER);
1438         if ($cnt) {
1439                 foreach ($matches as $mtch) {
1440                         if (link_compare($link, $mtch[1]) || link_compare($dlink, $mtch[1])) {
1441                                 $mention = true;
1442                                 logger('tgroup_check: mention found: ' . $mtch[2]);
1443                         }
1444                 }
1445         }
1446
1447         if (! $mention) {
1448                 return false;
1449         }
1450
1451         /// @TODO Combine both return statements into one
1452         return (($community_page) || ($prvgroup));
1453 }
1454
1455 /**
1456  * This function returns true if $update has an edited timestamp newer
1457  * than $existing, i.e. $update contains new data which should override
1458  * what's already there.  If there is no timestamp yet, the update is
1459  * assumed to be newer.  If the update has no timestamp, the existing
1460  * item is assumed to be up-to-date.  If the timestamps are equal it
1461  * assumes the update has been seen before and should be ignored.
1462  *
1463  * @todo fix type-hints (both array)
1464  */
1465 function edited_timestamp_is_newer($existing, $update) {
1466         if (!x($existing, 'edited') || !$existing['edited']) {
1467                 return true;
1468         }
1469         if (!x($update, 'edited') || !$update['edited']) {
1470                 return false;
1471         }
1472
1473         $existing_edited = datetime_convert('UTC', 'UTC', $existing['edited']);
1474         $update_edited = datetime_convert('UTC', 'UTC', $update['edited']);
1475         return (strcmp($existing_edited, $update_edited) < 0);
1476 }
1477
1478 /**
1479  *
1480  * consume_feed - process atom feed and update anything/everything we might need to update
1481  *
1482  * $xml = the (atom) feed to consume - RSS isn't as fully supported but may work for simple feeds.
1483  *
1484  * $importer = the contact_record (joined to user_record) of the local user who owns this relationship.
1485  *             It is this person's stuff that is going to be updated.
1486  * $contact =  the person who is sending us stuff. If not set, we MAY be processing a "follow" activity
1487  *             from an external network and MAY create an appropriate contact record. Otherwise, we MUST
1488  *             have a contact record.
1489  * $hub = should we find a hub declation in the feed, pass it back to our calling process, who might (or
1490  *        might not) try and subscribe to it.
1491  * $datedir sorts in reverse order
1492  * $pass - by default ($pass = 0) we cannot guarantee that a parent item has been
1493  *      imported prior to its children being seen in the stream unless we are certain
1494  *      of how the feed is arranged/ordered.
1495  * With $pass = 1, we only pull parent items out of the stream.
1496  * With $pass = 2, we only pull children (comments/likes).
1497  *
1498  * So running this twice, first with pass 1 and then with pass 2 will do the right
1499  * thing regardless of feed ordering. This won't be adequate in a fully-threaded
1500  * model where comments can have sub-threads. That would require some massive sorting
1501  * to get all the feed items into a mostly linear ordering, and might still require
1502  * recursion.
1503  *
1504  * @todo find proper type-hints
1505  */
1506 function consume_feed($xml, $importer, &$contact, &$hub, $datedir = 0, $pass = 0) {
1507         if ($contact['network'] === NETWORK_OSTATUS) {
1508                 if ($pass < 2) {
1509                         // Test - remove before flight
1510                         //$tempfile = tempnam(get_temppath(), "ostatus2");
1511                         //file_put_contents($tempfile, $xml);
1512                         logger("Consume OStatus messages ", LOGGER_DEBUG);
1513                         ostatus::import($xml, $importer, $contact, $hub);
1514                 }
1515                 return;
1516         }
1517
1518         if ($contact['network'] === NETWORK_FEED) {
1519                 if ($pass < 2) {
1520                         logger("Consume feeds", LOGGER_DEBUG);
1521                         feed_import($xml, $importer, $contact, $hub);
1522                 }
1523                 return;
1524         }
1525
1526         if ($contact['network'] === NETWORK_DFRN) {
1527                 logger("Consume DFRN messages", LOGGER_DEBUG);
1528
1529                 $r = q("SELECT `contact`.*, `contact`.`uid` AS `importer_uid`,
1530                                         `contact`.`pubkey` AS `cpubkey`,
1531                                         `contact`.`prvkey` AS `cprvkey`,
1532                                         `contact`.`thumb` AS `thumb`,
1533                                         `contact`.`url` as `url`,
1534                                         `contact`.`name` as `senderName`,
1535                                         `user`.*
1536                         FROM `contact`
1537                         LEFT JOIN `user` ON `contact`.`uid` = `user`.`uid`
1538                         WHERE `contact`.`id` = %d AND `user`.`uid` = %d",
1539                         dbesc($contact["id"]), dbesc($importer["uid"])
1540                 );
1541                 if (dbm::is_result($r)) {
1542                         logger("Now import the DFRN feed");
1543                         dfrn::import($xml, $r[0], true);
1544                         return;
1545                 }
1546         }
1547 }
1548
1549 /// @TODO type-hint is array
1550 function item_is_remote_self($contact, &$datarray) {
1551         $a = get_app();
1552
1553         if (!$contact['remote_self']) {
1554                 return false;
1555         }
1556
1557         // Prevent the forwarding of posts that are forwarded
1558         if ($datarray["extid"] == NETWORK_DFRN) {
1559                 return false;
1560         }
1561
1562         // Prevent to forward already forwarded posts
1563         if ($datarray["app"] == $a->get_hostname()) {
1564                 return false;
1565         }
1566
1567         // Only forward posts
1568         if ($datarray["verb"] != ACTIVITY_POST) {
1569                 return false;
1570         }
1571
1572         if (($contact['network'] != NETWORK_FEED) && $datarray['private']) {
1573                 return false;
1574         }
1575
1576         $datarray2 = $datarray;
1577         logger('remote-self start - Contact '.$contact['url'].' - '.$contact['remote_self'].' Item '.print_r($datarray, true), LOGGER_DEBUG);
1578         if ($contact['remote_self'] == 2) {
1579                 $r = q("SELECT `id`,`url`,`name`,`thumb` FROM `contact` WHERE `uid` = %d AND `self`",
1580                         intval($contact['uid']));
1581                 if (dbm::is_result($r)) {
1582                         $datarray['contact-id'] = $r[0]["id"];
1583
1584                         $datarray['owner-name'] = $r[0]["name"];
1585                         $datarray['owner-link'] = $r[0]["url"];
1586                         $datarray['owner-avatar'] = $r[0]["thumb"];
1587
1588                         $datarray['author-name']   = $datarray['owner-name'];
1589                         $datarray['author-link']   = $datarray['owner-link'];
1590                         $datarray['author-avatar'] = $datarray['owner-avatar'];
1591
1592                         unset($datarray['created']);
1593                         unset($datarray['edited']);
1594                 }
1595
1596                 if ($contact['network'] != NETWORK_FEED) {
1597                         $datarray["guid"] = get_guid(32);
1598                         unset($datarray["plink"]);
1599                         $datarray["uri"] = item_new_uri($a->get_hostname(), $contact['uid'], $datarray["guid"]);
1600                         $datarray["parent-uri"] = $datarray["uri"];
1601                         $datarray["extid"] = $contact['network'];
1602                         $urlpart = parse_url($datarray2['author-link']);
1603                         $datarray["app"] = $urlpart["host"];
1604                 } else {
1605                         $datarray['private'] = 0;
1606                 }
1607         }
1608
1609         if ($contact['network'] != NETWORK_FEED) {
1610                 // Store the original post
1611                 $r = item_store($datarray2, false, false);
1612                 logger('remote-self post original item - Contact '.$contact['url'].' return '.$r.' Item '.print_r($datarray2, true), LOGGER_DEBUG);
1613         } else {
1614                 $datarray["app"] = "Feed";
1615         }
1616
1617         return true;
1618 }
1619
1620 /// @TODO find proper type-hints
1621 function new_follower($importer, $contact, $datarray, $item, $sharing = false) {
1622         $url = notags(trim($datarray['author-link']));
1623         $name = notags(trim($datarray['author-name']));
1624         $photo = notags(trim($datarray['author-avatar']));
1625
1626         if (is_object($item)) {
1627                 $rawtag = $item->get_item_tags(NAMESPACE_ACTIVITY,'actor');
1628                 if ($rawtag && $rawtag[0]['child'][NAMESPACE_POCO]['preferredUsername'][0]['data']) {
1629                         $nick = $rawtag[0]['child'][NAMESPACE_POCO]['preferredUsername'][0]['data'];
1630                 }
1631         } else {
1632                 $nick = $item;
1633         }
1634
1635         if (is_array($contact)) {
1636                 if (($contact['network'] == NETWORK_OSTATUS && $contact['rel'] == CONTACT_IS_SHARING)
1637                         || ($sharing && $contact['rel'] == CONTACT_IS_FOLLOWER)) {
1638                         $r = dba::update('contact', array('rel' => CONTACT_IS_FRIEND, 'writable' => true),
1639                                         array('id' => $contact['id'], 'uid' => $importer['uid']));
1640                 }
1641                 // send email notification to owner?
1642         } else {
1643
1644                 // create contact record
1645
1646                 $r = q("INSERT INTO `contact` (`uid`, `created`, `url`, `nurl`, `name`, `nick`, `photo`, `network`, `rel`,
1647                         `blocked`, `readonly`, `pending`, `writable`)
1648                         VALUES (%d, '%s', '%s', '%s', '%s', '%s', '%s', '%s', %d, 0, 0, 1, 1)",
1649                         intval($importer['uid']),
1650                         dbesc(datetime_convert()),
1651                         dbesc($url),
1652                         dbesc(normalise_link($url)),
1653                         dbesc($name),
1654                         dbesc($nick),
1655                         dbesc($photo),
1656                         dbesc(($sharing) ? NETWORK_ZOT : NETWORK_OSTATUS),
1657                         intval(($sharing) ? CONTACT_IS_SHARING : CONTACT_IS_FOLLOWER)
1658                 );
1659                 $r = q("SELECT `id`, `network` FROM `contact` WHERE `uid` = %d AND `url` = '%s' AND `pending` = 1 LIMIT 1",
1660                                 intval($importer['uid']),
1661                                 dbesc($url)
1662                 );
1663                 if (dbm::is_result($r)) {
1664                         $contact_record = $r[0];
1665                         update_contact_avatar($photo, $importer["uid"], $contact_record["id"], true);
1666                 }
1667
1668                 /// @TODO Encapsulate this into a function/method
1669                 $r = q("SELECT * FROM `user` WHERE `uid` = %d LIMIT 1",
1670                         intval($importer['uid'])
1671                 );
1672
1673                 if (dbm::is_result($r) && !in_array($r[0]['page-flags'], array(PAGE_SOAPBOX, PAGE_FREELOVE))) {
1674
1675                         // create notification
1676                         $hash = random_string();
1677
1678                         if (is_array($contact_record)) {
1679                                 dba::insert('intro', array('uid' => $importer['uid'], 'contact-id' => $contact_record['id'],
1680                                                         'blocked' => false, 'knowyou' => false,
1681                                                         'hash' => $hash, 'datetime' => datetime_convert()));
1682                         }
1683
1684                         $def_gid = get_default_group($importer['uid'], $contact_record["network"]);
1685
1686                         if (intval($def_gid)) {
1687                                 group_add_member($importer['uid'], '', $contact_record['id'], $def_gid);
1688                         }
1689
1690                         if (($r[0]['notify-flags'] & NOTIFY_INTRO) &&
1691                                 in_array($r[0]['page-flags'], array(PAGE_NORMAL))) {
1692
1693                                 notification(array(
1694                                         'type'         => NOTIFY_INTRO,
1695                                         'notify_flags' => $r[0]['notify-flags'],
1696                                         'language'     => $r[0]['language'],
1697                                         'to_name'      => $r[0]['username'],
1698                                         'to_email'     => $r[0]['email'],
1699                                         'uid'          => $r[0]['uid'],
1700                                         'link'             => App::get_baseurl() . '/notifications/intro',
1701                                         'source_name'  => ((strlen(stripslashes($contact_record['name']))) ? stripslashes($contact_record['name']) : t('[Name Withheld]')),
1702                                         'source_link'  => $contact_record['url'],
1703                                         'source_photo' => $contact_record['photo'],
1704                                         'verb'         => ($sharing ? ACTIVITY_FRIEND : ACTIVITY_FOLLOW),
1705                                         'otype'        => 'intro'
1706                                 ));
1707
1708                         }
1709                 } elseif (dbm::is_result($r) && in_array($r[0]['page-flags'], array(PAGE_SOAPBOX, PAGE_FREELOVE))) {
1710                         $r = q("UPDATE `contact` SET `pending` = 0 WHERE `uid` = %d AND `url` = '%s' AND `pending` LIMIT 1",
1711                                         intval($importer['uid']),
1712                                         dbesc($url)
1713                         );
1714                 }
1715
1716         }
1717 }
1718
1719 function lose_follower($importer, $contact, array $datarray = array(), $item = "") {
1720
1721         if (($contact['rel'] == CONTACT_IS_FRIEND) || ($contact['rel'] == CONTACT_IS_SHARING)) {
1722                 dba::update('contact', array('rel' => CONTACT_IS_SHARING), array('id' => $contact['id']));
1723         } else {
1724                 contact_remove($contact['id']);
1725         }
1726 }
1727
1728 function lose_sharer($importer, $contact, array $datarray = array(), $item = "") {
1729
1730         if (($contact['rel'] == CONTACT_IS_FRIEND) || ($contact['rel'] == CONTACT_IS_FOLLOWER)) {
1731                 dba::update('contact', array('rel' => CONTACT_IS_FOLLOWER), array('id' => $contact['id']));
1732         } else {
1733                 contact_remove($contact['id']);
1734         }
1735 }
1736
1737 function subscribe_to_hub($url, $importer, $contact, $hubmode = 'subscribe') {
1738
1739         $a = get_app();
1740
1741         if (is_array($importer)) {
1742                 $r = q("SELECT `nickname` FROM `user` WHERE `uid` = %d LIMIT 1",
1743                         intval($importer['uid'])
1744                 );
1745         }
1746
1747         /*
1748          * Diaspora has different message-ids in feeds than they do
1749          * through the direct Diaspora protocol. If we try and use
1750          * the feed, we'll get duplicates. So don't.
1751          */
1752         if ((! dbm::is_result($r)) || $contact['network'] === NETWORK_DIASPORA) {
1753                 return;
1754         }
1755
1756         $push_url = get_config('system','url') . '/pubsub/' . $r[0]['nickname'] . '/' . $contact['id'];
1757
1758         // Use a single verify token, even if multiple hubs
1759         $verify_token = ((strlen($contact['hub-verify'])) ? $contact['hub-verify'] : random_string());
1760
1761         $params= 'hub.mode=' . $hubmode . '&hub.callback=' . urlencode($push_url) . '&hub.topic=' . urlencode($contact['poll']) . '&hub.verify=async&hub.verify_token=' . $verify_token;
1762
1763         logger('subscribe_to_hub: ' . $hubmode . ' ' . $contact['name'] . ' to hub ' . $url . ' endpoint: '  . $push_url . ' with verifier ' . $verify_token);
1764
1765         if (!strlen($contact['hub-verify']) || ($contact['hub-verify'] != $verify_token)) {
1766                 $r = dba::update('contact', array('hub-verify' => $verify_token), array('id' => $contact['id']));
1767         }
1768
1769         post_url($url, $params);
1770
1771         logger('subscribe_to_hub: returns: ' . $a->get_curl_code(), LOGGER_DEBUG);
1772
1773         return;
1774
1775 }
1776
1777 function fix_private_photos($s, $uid, $item = null, $cid = 0) {
1778
1779         if (get_config('system','disable_embedded')) {
1780                 return $s;
1781         }
1782
1783         $a = get_app();
1784
1785         logger('fix_private_photos: check for photos', LOGGER_DEBUG);
1786         $site = substr(App::get_baseurl(),strpos(App::get_baseurl(),'://'));
1787
1788         $orig_body = $s;
1789         $new_body = '';
1790
1791         $img_start = strpos($orig_body, '[img');
1792         $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
1793         $img_len = ($img_start !== false ? strpos(substr($orig_body, $img_start + $img_st_close + 1), '[/img]') : false);
1794         while ( ($img_st_close !== false) && ($img_len !== false) ) {
1795
1796                 $img_st_close++; // make it point to AFTER the closing bracket
1797                 $image = substr($orig_body, $img_start + $img_st_close, $img_len);
1798
1799                 logger('fix_private_photos: found photo ' . $image, LOGGER_DEBUG);
1800
1801
1802                 if (stristr($image , $site . '/photo/')) {
1803                         // Only embed locally hosted photos
1804                         $replace = false;
1805                         $i = basename($image);
1806                         $i = str_replace(array('.jpg', '.png', '.gif'),array('', '',''), $i);
1807                         $x = strpos($i, '-');
1808
1809                         if ($x) {
1810                                 $res = substr($i, $x + 1);
1811                                 $i = substr($i, 0, $x);
1812                                 $r = q("SELECT * FROM `photo` WHERE `resource-id` = '%s' AND `scale` = %d AND `uid` = %d",
1813                                         dbesc($i),
1814                                         intval($res),
1815                                         intval($uid)
1816
1817                                 );
1818                                 if (dbm::is_result($r)) {
1819                                         /*
1820                                          * Check to see if we should replace this photo link with an embedded image
1821                                          * 1. No need to do so if the photo is public
1822                                          * 2. If there's a contact-id provided, see if they're in the access list
1823                                          *    for the photo. If so, embed it.
1824                                          * 3. Otherwise, if we have an item, see if the item permissions match the photo
1825                                          *    permissions, regardless of order but first check to see if they're an exact
1826                                          *    match to save some processing overhead.
1827                                          */
1828                                         if (has_permissions($r[0])) {
1829                                                 if ($cid) {
1830                                                         $recips = enumerate_permissions($r[0]);
1831                                                         if (in_array($cid, $recips)) {
1832                                                                 $replace = true;
1833                                                         }
1834                                                 } elseif ($item) {
1835                                                         if (compare_permissions($item, $r[0])) {
1836                                                                 $replace = true;
1837                                                         }
1838                                                 }
1839                                         }
1840                                         if ($replace) {
1841                                                 $data = $r[0]['data'];
1842                                                 $type = $r[0]['type'];
1843
1844                                                 // If a custom width and height were specified, apply before embedding
1845                                                 if (preg_match("/\[img\=([0-9]*)x([0-9]*)\]/is", substr($orig_body, $img_start, $img_st_close), $match)) {
1846                                                         logger('fix_private_photos: scaling photo', LOGGER_DEBUG);
1847
1848                                                         $width = intval($match[1]);
1849                                                         $height = intval($match[2]);
1850
1851                                                         $ph = new Photo($data, $type);
1852                                                         if ($ph->is_valid()) {
1853                                                                 $ph->scaleImage(max($width, $height));
1854                                                                 $data = $ph->imageString();
1855                                                                 $type = $ph->getType();
1856                                                         }
1857                                                 }
1858
1859                                                 logger('fix_private_photos: replacing photo', LOGGER_DEBUG);
1860                                                 $image = 'data:' . $type . ';base64,' . base64_encode($data);
1861                                                 logger('fix_private_photos: replaced: ' . $image, LOGGER_DATA);
1862                                         }
1863                                 }
1864                         }
1865                 }
1866
1867                 $new_body = $new_body . substr($orig_body, 0, $img_start + $img_st_close) . $image . '[/img]';
1868                 $orig_body = substr($orig_body, $img_start + $img_st_close + $img_len + strlen('[/img]'));
1869                 if ($orig_body === false) {
1870                         $orig_body = '';
1871                 }
1872
1873                 $img_start = strpos($orig_body, '[img');
1874                 $img_st_close = ($img_start !== false ? strpos(substr($orig_body, $img_start), ']') : false);
1875                 $img_len = ($img_start !== false ? strpos(substr($orig_body, $img_start + $img_st_close + 1), '[/img]') : false);
1876         }
1877
1878         $new_body = $new_body . $orig_body;
1879
1880         return $new_body;
1881 }
1882
1883 /// @TODO type-hint is array
1884 function has_permissions($obj) {
1885         return (
1886                 (
1887                         x($obj, 'allow_cid')
1888                 ) || (
1889                         x($obj, 'allow_gid')
1890                 ) || (
1891                         x($obj, 'deny_cid')
1892                 ) || (
1893                         x($obj, 'deny_gid')
1894                 )
1895         );
1896 }
1897
1898 /// @TODO type-hint is array
1899 function compare_permissions($obj1, $obj2) {
1900         // first part is easy. Check that these are exactly the same.
1901         if (($obj1['allow_cid'] == $obj2['allow_cid'])
1902                 && ($obj1['allow_gid'] == $obj2['allow_gid'])
1903                 && ($obj1['deny_cid'] == $obj2['deny_cid'])
1904                 && ($obj1['deny_gid'] == $obj2['deny_gid'])) {
1905                 return true;
1906         }
1907
1908         // This is harder. Parse all the permissions and compare the resulting set.
1909         $recipients1 = enumerate_permissions($obj1);
1910         $recipients2 = enumerate_permissions($obj2);
1911         sort($recipients1);
1912         sort($recipients2);
1913
1914         /// @TODO Comparison of arrays, maybe use array_diff_assoc() here?
1915         return ($recipients1 == $recipients2);
1916 }
1917
1918 // returns an array of contact-ids that are allowed to see this object
1919 /// @TODO type-hint is array
1920 function enumerate_permissions($obj) {
1921         $allow_people = expand_acl($obj['allow_cid']);
1922         $allow_groups = expand_groups(expand_acl($obj['allow_gid']));
1923         $deny_people  = expand_acl($obj['deny_cid']);
1924         $deny_groups  = expand_groups(expand_acl($obj['deny_gid']));
1925         $recipients   = array_unique(array_merge($allow_people, $allow_groups));
1926         $deny         = array_unique(array_merge($deny_people, $deny_groups));
1927         $recipients   = array_diff($recipients, $deny);
1928         return $recipients;
1929 }
1930
1931 function item_getfeedtags($item) {
1932         $ret = array();
1933         $matches = false;
1934         $cnt = preg_match_all('|\#\[url\=(.*?)\](.*?)\[\/url\]|', $item['tag'], $matches);
1935         if ($cnt) {
1936                 for ($x = 0; $x < $cnt; $x ++) {
1937                         if ($matches[1][$x]) {
1938                                 $ret[$matches[2][$x]] = array('#', $matches[1][$x], $matches[2][$x]);
1939                         }
1940                 }
1941         }
1942         $matches = false;
1943         $cnt = preg_match_all('|\@\[url\=(.*?)\](.*?)\[\/url\]|', $item['tag'], $matches);
1944         if ($cnt) {
1945                 for ($x = 0; $x < $cnt; $x ++) {
1946                         if ($matches[1][$x]) {
1947                                 $ret[] = array('@', $matches[1][$x], $matches[2][$x]);
1948                         }
1949                 }
1950         }
1951         return $ret;
1952 }
1953
1954 function item_expire($uid, $days, $network = "", $force = false) {
1955
1956         if ((! $uid) || ($days < 1)) {
1957                 return;
1958         }
1959
1960         /*
1961          * $expire_network_only = save your own wall posts
1962          * and just expire conversations started by others
1963          */
1964         $expire_network_only = get_pconfig($uid,'expire', 'network_only');
1965         $sql_extra = ((intval($expire_network_only)) ? " AND wall = 0 " : "");
1966
1967         if ($network != "") {
1968                 $sql_extra .= sprintf(" AND network = '%s' ", dbesc($network));
1969
1970                 /*
1971                  * There is an index "uid_network_received" but not "uid_network_created"
1972                  * This avoids the creation of another index just for one purpose.
1973                  * And it doesn't really matter wether to look at "received" or "created"
1974                  */
1975                 $range = "AND `received` < UTC_TIMESTAMP() - INTERVAL %d DAY ";
1976         } else {
1977                 $range = "AND `created` < UTC_TIMESTAMP() - INTERVAL %d DAY ";
1978         }
1979
1980         $r = q("SELECT `file`, `resource-id`, `starred`, `type`, `id` FROM `item`
1981                 WHERE `uid` = %d $range
1982                 AND `id` = `parent`
1983                 $sql_extra
1984                 AND `deleted` = 0",
1985                 intval($uid),
1986                 intval($days)
1987         );
1988
1989         if (! dbm::is_result($r)) {
1990                 return;
1991         }
1992
1993         $expire_items = get_pconfig($uid, 'expire', 'items');
1994         $expire_items = (($expire_items === false) ? 1 : intval($expire_items)); // default if not set: 1
1995
1996         // Forcing expiring of items - but not notes and marked items
1997         if ($force) {
1998                 $expire_items = true;
1999         }
2000
2001         $expire_notes = get_pconfig($uid, 'expire', 'notes');
2002         $expire_notes = (($expire_notes === false) ? 1 : intval($expire_notes)); // default if not set: 1
2003
2004         $expire_starred = get_pconfig($uid, 'expire', 'starred');
2005         $expire_starred = (($expire_starred === false) ? 1 : intval($expire_starred)); // default if not set: 1
2006
2007         $expire_photos = get_pconfig($uid, 'expire', 'photos');
2008         $expire_photos = (($expire_photos === false) ? 0 : intval($expire_photos)); // default if not set: 0
2009
2010         logger('User '.$uid.': expire: # items=' . count($r). "; expire items: $expire_items, expire notes: $expire_notes, expire starred: $expire_starred, expire photos: $expire_photos");
2011
2012         foreach ($r as $item) {
2013
2014                 // don't expire filed items
2015
2016                 if (strpos($item['file'],'[') !== false) {
2017                         continue;
2018                 }
2019
2020                 // Only expire posts, not photos and photo comments
2021
2022                 if ($expire_photos == 0 && strlen($item['resource-id'])) {
2023                         continue;
2024                 } elseif ($expire_starred == 0 && intval($item['starred'])) {
2025                         continue;
2026                 } elseif ($expire_notes == 0 && $item['type'] == 'note') {
2027                         continue;
2028                 } elseif ($expire_items == 0 && $item['type'] != 'note') {
2029                         continue;
2030                 }
2031
2032                 drop_item($item['id'], false);
2033         }
2034
2035         proc_run(array('priority' => PRIORITY_LOW, 'dont_fork' => true), "include/notifier.php", "expire", $uid);
2036
2037 }
2038
2039 /// @TODO type-hint is array
2040 function drop_items($items) {
2041         $uid = 0;
2042
2043         if (! local_user() && ! remote_user()) {
2044                 return;
2045         }
2046
2047         if (count($items)) {
2048                 foreach ($items as $item) {
2049                         $owner = drop_item($item,false);
2050                         if ($owner && ! $uid)
2051                                 $uid = $owner;
2052                 }
2053         }
2054
2055         // multiple threads may have been deleted, send an expire notification
2056
2057         if ($uid) {
2058                 proc_run(array('priority' => PRIORITY_LOW, 'dont_fork' => true), "include/notifier.php", "expire", $uid);
2059         }
2060 }
2061
2062
2063 function drop_item($id, $interactive = true) {
2064
2065         $a = get_app();
2066
2067         // locate item to be deleted
2068
2069         $r = q("SELECT * FROM `item` WHERE `id` = %d LIMIT 1",
2070                 intval($id)
2071         );
2072
2073         if (! dbm::is_result($r)) {
2074                 if (! $interactive) {
2075                         return 0;
2076                 }
2077                 notice( t('Item not found.') . EOL);
2078                 goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2079         }
2080
2081         $item = $r[0];
2082
2083         if ($item['deleted']) {
2084                 return 0;
2085         }
2086
2087         $owner = $item['uid'];
2088
2089         $contact_id = 0;
2090
2091         // check if logged in user is either the author or owner of this item
2092
2093         if (is_array($_SESSION['remote'])) {
2094                 foreach ($_SESSION['remote'] as $visitor) {
2095                         if ($visitor['uid'] == $item['uid'] && $visitor['cid'] == $item['contact-id']) {
2096                                 $contact_id = $visitor['cid'];
2097                                 break;
2098                         }
2099                 }
2100         }
2101
2102
2103         if ((local_user() == $item['uid']) || ($contact_id) || (! $interactive)) {
2104
2105                 // Check if we should do HTML-based delete confirmation
2106                 if ($_REQUEST['confirm']) {
2107                         // <form> can't take arguments in its "action" parameter
2108                         // so add any arguments as hidden inputs
2109                         $query = explode_querystring($a->query_string);
2110                         $inputs = array();
2111                         foreach ($query['args'] as $arg) {
2112                                 if (strpos($arg, 'confirm=') === false) {
2113                                         $arg_parts = explode('=', $arg);
2114                                         $inputs[] = array('name' => $arg_parts[0], 'value' => $arg_parts[1]);
2115                                 }
2116                         }
2117
2118                         return replace_macros(get_markup_template('confirm.tpl'), array(
2119                                 '$method' => 'get',
2120                                 '$message' => t('Do you really want to delete this item?'),
2121                                 '$extra_inputs' => $inputs,
2122                                 '$confirm' => t('Yes'),
2123                                 '$confirm_url' => $query['base'],
2124                                 '$confirm_name' => 'confirmed',
2125                                 '$cancel' => t('Cancel'),
2126                         ));
2127                 }
2128                 // Now check how the user responded to the confirmation query
2129                 if ($_REQUEST['canceled']) {
2130                         goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2131                 }
2132
2133                 logger('delete item: ' . $item['id'], LOGGER_DEBUG);
2134
2135                 // delete the item
2136                 $r = dba::update('item', array('deleted' => true, 'title' => '', 'body' => '',
2137                                         'edited' => datetime_convert(), 'changed' => datetime_convert()),
2138                                 array('id' => $item['id']));
2139
2140                 create_tags_from_item($item['id']);
2141                 create_files_from_item($item['id']);
2142                 delete_thread($item['id'], $item['parent-uri']);
2143
2144                 // clean up categories and tags so they don't end up as orphans
2145
2146                 $matches = false;
2147                 $cnt = preg_match_all('/<(.*?)>/', $item['file'], $matches, PREG_SET_ORDER);
2148                 if ($cnt) {
2149                         foreach ($matches as $mtch) {
2150                                 file_tag_unsave_file($item['uid'], $item['id'], $mtch[1],true);
2151                         }
2152                 }
2153
2154                 $matches = false;
2155
2156                 $cnt = preg_match_all('/\[(.*?)\]/', $item['file'], $matches, PREG_SET_ORDER);
2157                 if ($cnt) {
2158                         foreach ($matches as $mtch) {
2159                                 file_tag_unsave_file($item['uid'], $item['id'], $mtch[1],false);
2160                         }
2161                 }
2162
2163                 /*
2164                  * If item is a link to a photo resource, nuke all the associated photos
2165                  * (visitors will not have photo resources)
2166                  * This only applies to photos uploaded from the photos page. Photos inserted into a post do not
2167                  * generate a resource-id and therefore aren't intimately linked to the item.
2168                  */
2169                 if (strlen($item['resource-id'])) {
2170                         q("DELETE FROM `photo` WHERE `resource-id` = '%s' AND `uid` = %d ",
2171                                 dbesc($item['resource-id']),
2172                                 intval($item['uid'])
2173                         );
2174                         // ignore the result
2175                 }
2176
2177                 // If item is a link to an event, nuke the event record.
2178                 if (intval($item['event-id'])) {
2179                         q("DELETE FROM `event` WHERE `id` = %d AND `uid` = %d",
2180                                 intval($item['event-id']),
2181                                 intval($item['uid'])
2182                         );
2183                         // ignore the result
2184                 }
2185
2186                 // If item has attachments, drop them
2187                 foreach (explode(", ", $item['attach']) as $attach) {
2188                         preg_match("|attach/(\d+)|", $attach, $matches);
2189                         q("DELETE FROM `attach` WHERE `id` = %d AND `uid` = %d",
2190                                 intval($matches[1]),
2191                                 local_user()
2192                         );
2193                         // ignore the result
2194                 }
2195
2196                 // The new code splits the queries since the mysql optimizer really has bad problems with subqueries
2197
2198                 // Creating list of parents
2199                 $r = q("SELECT `id` FROM `item` WHERE `parent` = %d AND `uid` = %d",
2200                         intval($item['id']),
2201                         intval($item['uid'])
2202                 );
2203
2204                 $parentid = "";
2205
2206                 foreach ($r as $row) {
2207                         if ($parentid != "") {
2208                                 $parentid .= ", ";
2209                         }
2210
2211                         $parentid .= $row["id"];
2212                 }
2213
2214                 // Now delete them
2215                 if ($parentid != "") {
2216                         $r = q("DELETE FROM `item_id` WHERE `iid` IN (%s)", dbesc($parentid));
2217                         $r = q("DELETE FROM `sign` WHERE `iid` IN (%s)", dbesc($parentid));
2218                 }
2219
2220                 // If it's the parent of a comment thread, kill all the kids
2221                 if ($item['uri'] == $item['parent-uri']) {
2222                         $r = dba::update('item', array('deleted' => true, 'title' => '', 'body' => '',
2223                                         'edited' => datetime_convert(), 'changed' => datetime_convert()),
2224                                 array('parent-uri' => $item['parent-uri'], 'uid' => $item['uid']));
2225
2226                         create_tags_from_itemuri($item['parent-uri'], $item['uid']);
2227                         create_files_from_itemuri($item['parent-uri'], $item['uid']);
2228                         delete_thread_uri($item['parent-uri'], $item['uid']);
2229                         // ignore the result
2230                 } else {
2231                         // ensure that last-child is set in case the comment that had it just got wiped.
2232                         dba::update('item', array('last-child' => false, 'changed' => datetime_convert()),
2233                                         array('parent-uri' => $item['parent-uri'], 'uid' => $item['uid']));
2234
2235                         // who is the last child now?
2236                         $r = q("SELECT `id` FROM `item` WHERE `parent-uri` = '%s' AND `type` != 'activity' AND `deleted` = 0 AND `uid` = %d ORDER BY `edited` DESC LIMIT 1",
2237                                 dbesc($item['parent-uri']),
2238                                 intval($item['uid'])
2239                         );
2240                         if (dbm::is_result($r)) {
2241                                 dba::update('item', array('last-child' => true), array('id' => $r[0]['id']));
2242                         }
2243                 }
2244
2245                 // send the notification upstream/downstream
2246                 // The priority depends on how the deletion is done.
2247                 $drop_id = intval($item['id']);
2248                 $priority = ($interactive ? PRIORITY_HIGH : PRIORITY_LOW);
2249
2250                 proc_run(array('priority' => $priority, 'dont_fork' => true), "include/notifier.php", "drop", $drop_id);
2251
2252                 if (! $interactive) {
2253                         return $owner;
2254                 }
2255                 goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2256                 //NOTREACHED
2257         } else {
2258                 if (! $interactive) {
2259                         return 0;
2260                 }
2261                 notice( t('Permission denied.') . EOL);
2262                 goaway(App::get_baseurl() . '/' . $_SESSION['return_url']);
2263                 //NOTREACHED
2264         }
2265
2266 }
2267
2268 /// @todo: This query seems to be really slow
2269 function first_post_date($uid, $wall = false) {
2270         $r = q("SELECT `id`, `created` FROM `item`
2271                 WHERE `uid` = %d AND `wall` = %d AND `deleted` = 0 AND `visible` = 1 AND `moderated` = 0
2272                 AND `id` = `parent`
2273                 ORDER BY `created` ASC LIMIT 1",
2274                 intval($uid),
2275                 intval($wall ? 1 : 0)
2276         );
2277         if (dbm::is_result($r)) {
2278                 // logger('first_post_date: ' . $r[0]['id'] . ' ' . $r[0]['created'], LOGGER_DATA);
2279                 return substr(datetime_convert('',date_default_timezone_get(), $r[0]['created']),0,10);
2280         }
2281         return false;
2282 }
2283
2284 /* modified posted_dates() {below} to arrange the list in years */
2285 function list_post_dates($uid, $wall) {
2286         $dnow = datetime_convert('',date_default_timezone_get(), 'now','Y-m-d');
2287
2288         $dthen = first_post_date($uid, $wall);
2289         if (! $dthen) {
2290                 return array();
2291         }
2292
2293         // Set the start and end date to the beginning of the month
2294         $dnow = substr($dnow, 0, 8) . '01';
2295         $dthen = substr($dthen, 0, 8) . '01';
2296
2297         $ret = array();
2298
2299         /*
2300          * Starting with the current month, get the first and last days of every
2301          * month down to and including the month of the first post
2302          */
2303         while (substr($dnow, 0, 7) >= substr($dthen, 0, 7)) {
2304                 $dyear = intval(substr($dnow, 0, 4));
2305                 $dstart = substr($dnow, 0, 8) . '01';
2306                 $dend = substr($dnow, 0, 8) . get_dim(intval($dnow), intval(substr($dnow, 5)));
2307                 $start_month = datetime_convert('', '', $dstart, 'Y-m-d');
2308                 $end_month = datetime_convert('', '', $dend, 'Y-m-d');
2309                 $str = day_translate(datetime_convert('', '', $dnow, 'F'));
2310                 if (!$ret[$dyear]) {
2311                         $ret[$dyear] = array();
2312                 }
2313                 $ret[$dyear][] = array($str, $end_month, $start_month);
2314                 $dnow = datetime_convert('', '', $dnow . ' -1 month', 'Y-m-d');
2315         }
2316         return $ret;
2317 }
2318
2319 function posted_dates($uid, $wall) {
2320         $dnow = datetime_convert('', date_default_timezone_get(), 'now', 'Y-m-d');
2321
2322         $dthen = first_post_date($uid, $wall);
2323         if (! $dthen) {
2324                 return array();
2325         }
2326
2327         // Set the start and end date to the beginning of the month
2328         $dnow = substr($dnow, 0, 8) . '01';
2329         $dthen = substr($dthen, 0, 8) . '01';
2330
2331         $ret = array();
2332         /*
2333          * Starting with the current month, get the first and last days of every
2334          * month down to and including the month of the first post
2335          */
2336         while (substr($dnow, 0, 7) >= substr($dthen, 0, 7)) {
2337                 $dstart = substr($dnow, 0, 8) . '01';
2338                 $dend = substr($dnow, 0, 8) . get_dim(intval($dnow), intval(substr($dnow, 5)));
2339                 $start_month = datetime_convert('', '', $dstart, 'Y-m-d');
2340                 $end_month = datetime_convert('', '', $dend, 'Y-m-d');
2341                 $str = day_translate(datetime_convert('', '', $dnow, 'F Y'));
2342                 $ret[] = array($str, $end_month, $start_month);
2343                 $dnow = datetime_convert('', '', $dnow . ' -1 month', 'Y-m-d');
2344         }
2345         return $ret;
2346 }
2347
2348
2349 function posted_date_widget($url, $uid, $wall) {
2350         $o = '';
2351
2352         if (! feature_enabled($uid, 'archives')) {
2353                 return $o;
2354         }
2355
2356         // For former Facebook folks that left because of "timeline"
2357         /*
2358          * @TODO old-lost code?
2359         if ($wall && intval(get_pconfig($uid, 'system', 'no_wall_archive_widget')))
2360                 return $o;
2361         */
2362
2363         $visible_years = get_pconfig($uid,'system','archive_visible_years');
2364         if (! $visible_years) {
2365                 $visible_years = 5;
2366         }
2367
2368         $ret = list_post_dates($uid, $wall);
2369
2370         if (! dbm::is_result($ret)) {
2371                 return $o;
2372         }
2373
2374         $cutoff_year = intval(datetime_convert('',date_default_timezone_get(), 'now', 'Y')) - $visible_years;
2375         $cutoff = ((array_key_exists($cutoff_year, $ret))? true : false);
2376
2377         $o = replace_macros(get_markup_template('posted_date_widget.tpl'),array(
2378                 '$title' => t('Archives'),
2379                 '$size' => $visible_years,
2380                 '$cutoff_year' => $cutoff_year,
2381                 '$cutoff' => $cutoff,
2382                 '$url' => $url,
2383                 '$dates' => $ret,
2384                 '$showmore' => t('show more')
2385
2386         ));
2387         return $o;
2388 }