]> git.mxchange.org Git - friendica-addons.git/blob - twitter/twitter.php
Removed commented stuff
[friendica-addons.git] / twitter / twitter.php
1 <?php
2 /**
3  * Name: Twitter Connector
4  * Description: Bidirectional (posting, relaying and reading) connector for Twitter.
5  * Version: 1.1.0
6  * Author: Tobias Diekershoff <https://f.diekershoff.de/profile/tobias>
7  * Author: Michael Vogel <https://pirati.ca/profile/heluecht>
8  * Maintainer: Hypolite Petovan <https://friendica.mrpetovan.com/profile/hypolite>
9  *
10  * Copyright (c) 2011-2013 Tobias Diekershoff, Michael Vogel, Hypolite Petovan
11  * All rights reserved.
12  *
13  * Redistribution and use in source and binary forms, with or without
14  * modification, are permitted provided that the following conditions are met:
15  *    * Redistributions of source code must retain the above copyright notice,
16  *     this list of conditions and the following disclaimer.
17  *    * Redistributions in binary form must reproduce the above
18  *    * copyright notice, this list of conditions and the following disclaimer in
19  *      the documentation and/or other materials provided with the distribution.
20  *    * Neither the name of the <organization> nor the names of its contributors
21  *      may be used to endorse or promote products derived from this software
22  *      without specific prior written permission.
23  *
24  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS" AND
25  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
26  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
27  * DISCLAIMED. IN NO EVENT SHALL <COPYRIGHT HOLDER> BE LIABLE FOR ANY DIRECT,
28  * INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING,
29  * BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
30  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
31  * LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE
32  * OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF
33  * ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
34  *
35  */
36 /*   Twitter Addon for Friendica
37  *
38  *   Author: Tobias Diekershoff
39  *           tobias.diekershoff@gmx.net
40  *
41  *   License:3-clause BSD license
42  *
43  *   Configuration:
44  *     To use this addon you need a OAuth Consumer key pair (key & secret)
45  *     you can get it from Twitter at https://twitter.com/apps
46  *
47  *     Register your Friendica site as "Client" application with "Read & Write" access
48  *     we do not need "Twitter as login". When you've registered the app you get the
49  *     OAuth Consumer key and secret pair for your application/site.
50  *
51  *     Add this key pair to your global config/addon.config.php or use the admin panel.
52  *
53  *      'twitter' => [
54  *                  'consumerkey' => '',
55  *              'consumersecret' => '',
56  *      ],
57  *
58  *     To activate the addon itself add it to the system.addon
59  *     setting. After this, your user can configure their Twitter account settings
60  *     from "Settings -> Addon Settings".
61  *
62  *     Requirements: PHP5, curl
63  */
64
65 use Abraham\TwitterOAuth\TwitterOAuth;
66 use Abraham\TwitterOAuth\TwitterOAuthException;
67 use Codebird\Codebird;
68 use Friendica\App;
69 use Friendica\Content\OEmbed;
70 use Friendica\Content\PageInfo;
71 use Friendica\Content\Text\BBCode;
72 use Friendica\Content\Text\Plaintext;
73 use Friendica\Core\Hook;
74 use Friendica\Core\Logger;
75 use Friendica\Core\Protocol;
76 use Friendica\Core\Renderer;
77 use Friendica\Core\Worker;
78 use Friendica\Database\DBA;
79 use Friendica\DI;
80 use Friendica\Model\Contact;
81 use Friendica\Model\Conversation;
82 use Friendica\Model\Group;
83 use Friendica\Model\Item;
84 use Friendica\Model\ItemURI;
85 use Friendica\Model\Post;
86 use Friendica\Model\Tag;
87 use Friendica\Model\User;
88 use Friendica\Protocol\Activity;
89 use Friendica\Util\ConfigFileLoader;
90 use Friendica\Util\DateTimeFormat;
91 use Friendica\Util\Images;
92 use Friendica\Util\Strings;
93
94 require_once __DIR__ . DIRECTORY_SEPARATOR . 'vendor' . DIRECTORY_SEPARATOR . 'autoload.php';
95
96 define('TWITTER_DEFAULT_POLL_INTERVAL', 5); // given in minutes
97
98 function twitter_install()
99 {
100         //  we need some hooks, for the configuration and for sending tweets
101         Hook::register('load_config'            , __FILE__, 'twitter_load_config');
102         Hook::register('connector_settings'     , __FILE__, 'twitter_settings');
103         Hook::register('connector_settings_post', __FILE__, 'twitter_settings_post');
104         Hook::register('hook_fork'              , __FILE__, 'twitter_hook_fork');
105         Hook::register('post_local'             , __FILE__, 'twitter_post_local');
106         Hook::register('notifier_normal'        , __FILE__, 'twitter_post_hook');
107         Hook::register('jot_networks'           , __FILE__, 'twitter_jot_nets');
108         Hook::register('cron'                   , __FILE__, 'twitter_cron');
109         Hook::register('follow'                 , __FILE__, 'twitter_follow');
110         Hook::register('expire'                 , __FILE__, 'twitter_expire');
111         Hook::register('prepare_body'           , __FILE__, 'twitter_prepare_body');
112         Hook::register('check_item_notification', __FILE__, 'twitter_check_item_notification');
113         Hook::register('probe_detect'           , __FILE__, 'twitter_probe_detect');
114         Hook::register('parse_link'             , __FILE__, 'twitter_parse_link');
115         Logger::info("installed twitter");
116 }
117
118 // Hook functions
119
120 function twitter_load_config(App $a, ConfigFileLoader $loader)
121 {
122         $a->getConfigCache()->load($loader->loadAddonConfig('twitter'));
123 }
124
125 function twitter_check_item_notification(App $a, array &$notification_data)
126 {
127         $own_id = DI::pConfig()->get($notification_data["uid"], 'twitter', 'own_id');
128
129         $own_user = q("SELECT `url` FROM `contact` WHERE `uid` = %d AND `alias` = '%s' LIMIT 1",
130                         intval($notification_data["uid"]),
131                         DBA::escape("twitter::".$own_id)
132         );
133
134         if ($own_user) {
135                 $notification_data["profiles"][] = $own_user[0]["url"];
136         }
137 }
138
139 function twitter_follow(App $a, array &$contact)
140 {
141         Logger::info('Check if contact is twitter contact', ['url' => $contact["url"]]);
142
143         if (!strstr($contact["url"], "://twitter.com") && !strstr($contact["url"], "@twitter.com")) {
144                 return;
145         }
146
147         // contact seems to be a twitter contact, so continue
148         $nickname = preg_replace("=https?://twitter.com/(.*)=ism", "$1", $contact["url"]);
149         $nickname = str_replace("@twitter.com", "", $nickname);
150
151         $uid = $a->user["uid"];
152
153         $ckey = DI::config()->get('twitter', 'consumerkey');
154         $csecret = DI::config()->get('twitter', 'consumersecret');
155         $otoken = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
156         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
157
158         // If the addon is not configured (general or for this user) quit here
159         if (empty($ckey) || empty($csecret) || empty($otoken) || empty($osecret)) {
160                 $contact = false;
161                 return;
162         }
163
164         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
165         $connection->post('friendships/create', ['screen_name' => $nickname]);
166
167         $user = twitter_fetchuser($nickname);
168
169         $contact_id = twitter_fetch_contact($uid, $user, true);
170
171         $contact = Contact::getById($contact_id, ['name', 'nick', 'url', 'addr', 'batch', 'notify', 'poll', 'request', 'confirm', 'poco', 'photo', 'priority', 'network', 'alias', 'pubkey']);
172
173         if (DBA::isResult($contact)) {
174                 $contact["contact"] = $contact;
175         }
176 }
177
178 function twitter_jot_nets(App $a, array &$jotnets_fields)
179 {
180         if (!local_user()) {
181                 return;
182         }
183
184         if (DI::pConfig()->get(local_user(), 'twitter', 'post')) {
185                 $jotnets_fields[] = [
186                         'type' => 'checkbox',
187                         'field' => [
188                                 'twitter_enable',
189                                 DI::l10n()->t('Post to Twitter'),
190                                 DI::pConfig()->get(local_user(), 'twitter', 'post_by_default')
191                         ]
192                 ];
193         }
194 }
195
196
197 function twitter_settings_post(App $a)
198 {
199         if (!local_user()) {
200                 return;
201         }
202         // don't check twitter settings if twitter submit button is not clicked
203         if (empty($_POST['twitter-disconnect']) && empty($_POST['twitter-submit'])) {
204                 return;
205         }
206
207         if (!empty($_POST['twitter-disconnect'])) {
208                 /*               * *
209                  * if the twitter-disconnect checkbox is set, clear the OAuth key/secret pair
210                  * from the user configuration
211                  */
212                 DI::pConfig()->delete(local_user(), 'twitter', 'consumerkey');
213                 DI::pConfig()->delete(local_user(), 'twitter', 'consumersecret');
214                 DI::pConfig()->delete(local_user(), 'twitter', 'oauthtoken');
215                 DI::pConfig()->delete(local_user(), 'twitter', 'oauthsecret');
216                 DI::pConfig()->delete(local_user(), 'twitter', 'post');
217                 DI::pConfig()->delete(local_user(), 'twitter', 'post_by_default');
218                 DI::pConfig()->delete(local_user(), 'twitter', 'lastid');
219                 DI::pConfig()->delete(local_user(), 'twitter', 'mirror_posts');
220                 DI::pConfig()->delete(local_user(), 'twitter', 'import');
221                 DI::pConfig()->delete(local_user(), 'twitter', 'create_user');
222                 DI::pConfig()->delete(local_user(), 'twitter', 'own_id');
223         } else {
224                 if (isset($_POST['twitter-pin'])) {
225                         //  if the user supplied us with a PIN from Twitter, let the magic of OAuth happen
226                         Logger::notice('got a Twitter PIN');
227                         $ckey    = DI::config()->get('twitter', 'consumerkey');
228                         $csecret = DI::config()->get('twitter', 'consumersecret');
229                         //  the token and secret for which the PIN was generated were hidden in the settings
230                         //  form as token and token2, we need a new connection to Twitter using these token
231                         //  and secret to request a Access Token with the PIN
232                         try {
233                                 if (empty($_POST['twitter-pin'])) {
234                                         throw new Exception(DI::l10n()->t('You submitted an empty PIN, please Sign In with Twitter again to get a new one.'));
235                                 }
236
237                                 $connection = new TwitterOAuth($ckey, $csecret, $_POST['twitter-token'], $_POST['twitter-token2']);
238                                 $token = $connection->oauth("oauth/access_token", ["oauth_verifier" => $_POST['twitter-pin']]);
239                                 //  ok, now that we have the Access Token, save them in the user config
240                                 DI::pConfig()->set(local_user(), 'twitter', 'oauthtoken', $token['oauth_token']);
241                                 DI::pConfig()->set(local_user(), 'twitter', 'oauthsecret', $token['oauth_token_secret']);
242                                 DI::pConfig()->set(local_user(), 'twitter', 'post', 1);
243                         } catch(Exception $e) {
244                                 notice($e->getMessage());
245                         } catch(TwitterOAuthException $e) {
246                                 notice($e->getMessage());
247                         }
248                         //  reload the Addon Settings page, if we don't do it see Bug #42
249                         DI::baseUrl()->redirect('settings/connectors');
250                 } else {
251                         //  if no PIN is supplied in the POST variables, the user has changed the setting
252                         //  to post a tweet for every new __public__ posting to the wall
253                         DI::pConfig()->set(local_user(), 'twitter', 'post', intval($_POST['twitter-enable']));
254                         DI::pConfig()->set(local_user(), 'twitter', 'post_by_default', intval($_POST['twitter-default']));
255                         DI::pConfig()->set(local_user(), 'twitter', 'mirror_posts', intval($_POST['twitter-mirror']));
256                         DI::pConfig()->set(local_user(), 'twitter', 'import', intval($_POST['twitter-import']));
257                         DI::pConfig()->set(local_user(), 'twitter', 'create_user', intval($_POST['twitter-create_user']));
258
259                         if (!intval($_POST['twitter-mirror'])) {
260                                 DI::pConfig()->delete(local_user(), 'twitter', 'lastid');
261                         }
262                 }
263         }
264 }
265
266 function twitter_settings(App $a, &$s)
267 {
268         if (!local_user()) {
269                 return;
270         }
271         DI::page()['htmlhead'] .= '<link rel="stylesheet"  type="text/css" href="' . DI::baseUrl()->get() . '/addon/twitter/twitter.css' . '" media="all" />' . "\r\n";
272         /*       * *
273          * 1) Check that we have global consumer key & secret
274          * 2) If no OAuthtoken & stuff is present, generate button to get some
275          * 3) Checkbox for "Send public notices (280 chars only)
276          */
277         $ckey    = DI::config()->get('twitter', 'consumerkey');
278         $csecret = DI::config()->get('twitter', 'consumersecret');
279         $otoken  = DI::pConfig()->get(local_user(), 'twitter', 'oauthtoken');
280         $osecret = DI::pConfig()->get(local_user(), 'twitter', 'oauthsecret');
281
282         $enabled            = intval(DI::pConfig()->get(local_user(), 'twitter', 'post'));
283         $defenabled         = intval(DI::pConfig()->get(local_user(), 'twitter', 'post_by_default'));
284         $mirrorenabled      = intval(DI::pConfig()->get(local_user(), 'twitter', 'mirror_posts'));
285         $importenabled      = intval(DI::pConfig()->get(local_user(), 'twitter', 'import'));
286         $create_userenabled = intval(DI::pConfig()->get(local_user(), 'twitter', 'create_user'));
287
288         $css = (($enabled) ? '' : '-disabled');
289
290         $s .= '<span id="settings_twitter_inflated" class="settings-block fakelink" style="display: block;" onclick="openClose(\'settings_twitter_expanded\'); openClose(\'settings_twitter_inflated\');">';
291         $s .= '<img class="connector' . $css . '" src="images/twitter.png" /><h3 class="connector">' . DI::l10n()->t('Twitter Import/Export/Mirror') . '</h3>';
292         $s .= '</span>';
293         $s .= '<div id="settings_twitter_expanded" class="settings-block" style="display: none;">';
294         $s .= '<span class="fakelink" onclick="openClose(\'settings_twitter_expanded\'); openClose(\'settings_twitter_inflated\');">';
295         $s .= '<img class="connector' . $css . '" src="images/twitter.png" /><h3 class="connector">' . DI::l10n()->t('Twitter Import/Export/Mirror') . '</h3>';
296         $s .= '</span>';
297
298         if ((!$ckey) && (!$csecret)) {
299                 /* no global consumer keys
300                  * display warning and skip personal config
301                  */
302                 $s .= '<p>' . DI::l10n()->t('No consumer key pair for Twitter found. Please contact your site administrator.') . '</p>';
303         } else {
304                 // ok we have a consumer key pair now look into the OAuth stuff
305                 if ((!$otoken) && (!$osecret)) {
306                         /* the user has not yet connected the account to twitter...
307                          * get a temporary OAuth key/secret pair and display a button with
308                          * which the user can request a PIN to connect the account to a
309                          * account at Twitter.
310                          */
311                         $connection = new TwitterOAuth($ckey, $csecret);
312                         try {
313                                 $result = $connection->oauth('oauth/request_token', ['oauth_callback' => 'oob']);
314                                 $s .= '<p>' . DI::l10n()->t('At this Friendica instance the Twitter addon was enabled but you have not yet connected your account to your Twitter account. To do so click the button below to get a PIN from Twitter which you have to copy into the input box below and submit the form. Only your <strong>public</strong> posts will be posted to Twitter.') . '</p>';
315                                 $s .= '<a href="' . $connection->url('oauth/authorize', ['oauth_token' => $result['oauth_token']]) . '" target="_twitter"><img src="addon/twitter/lighter.png" alt="' . DI::l10n()->t('Log in with Twitter') . '"></a>';
316                                 $s .= '<div id="twitter-pin-wrapper">';
317                                 $s .= '<label id="twitter-pin-label" for="twitter-pin">' . DI::l10n()->t('Copy the PIN from Twitter here') . '</label>';
318                                 $s .= '<input id="twitter-pin" type="text" name="twitter-pin" />';
319                                 $s .= '<input id="twitter-token" type="hidden" name="twitter-token" value="' . $result['oauth_token'] . '" />';
320                                 $s .= '<input id="twitter-token2" type="hidden" name="twitter-token2" value="' . $result['oauth_token_secret'] . '" />';
321                                 $s .= '</div><div class="clear"></div>';
322                                 $s .= '<div class="settings-submit-wrapper" ><input type="submit" name="twitter-submit" class="settings-submit" value="' . DI::l10n()->t('Save Settings') . '" /></div>';
323                         } catch (TwitterOAuthException $e) {
324                                 $s .= '<p>' . DI::l10n()->t('An error occured: ') . $e->getMessage() . '</p>';
325                         }
326                 } else {
327                         /*                       * *
328                          *  we have an OAuth key / secret pair for the user
329                          *  so let's give a chance to disable the postings to Twitter
330                          */
331                         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
332                         try {
333                                 $details = $connection->get('account/verify_credentials');
334
335                                 $field_checkbox = Renderer::getMarkupTemplate('field_checkbox.tpl');
336
337                                 if (property_exists($details, 'screen_name') &&
338                                     property_exists($details, 'description') &&
339                                     property_exists($details, 'profile_image_url')) {
340                                         $s .= '<div id="twitter-info" >
341                                         <p>' . DI::l10n()->t('Currently connected to: ') . '<a href="https://twitter.com/' . $details->screen_name . '" target="_twitter">' . $details->screen_name . '</a>
342                                                 <button type="submit" name="twitter-disconnect" value="1">' . DI::l10n()->t('Disconnect') . '</button>
343                                         </p>
344                                         <p id="twitter-info-block">
345                                                 <a href="https://twitter.com/' . $details->screen_name . '" target="_twitter"><img id="twitter-avatar" src="' . $details->profile_image_url . '" /></a>
346                                                 <em>' . $details->description . '</em>
347                                         </p>
348                                 </div>';
349                                 } else {
350                                         $s .= '<div id="twitter-info" >
351                                         <p>Invalid Twitter info</p>
352                                         <button type="submit" name="twitter-disconnect" value="1">' . DI::l10n()->t('Disconnect') . '</button>
353                                         </div>';
354                                         Logger::notice('Invalid twitter info (verify credentials).', ['auth' => TwitterOAuth::class]);
355                                 }
356                                 $s .= '<div class="clear"></div>';
357
358                                 $s .= Renderer::replaceMacros($field_checkbox, [
359                                         '$field' => ['twitter-enable', DI::l10n()->t('Allow posting to Twitter'), $enabled, DI::l10n()->t('If enabled all your <strong>public</strong> postings can be posted to the associated Twitter account. You can choose to do so by default (here) or for every posting separately in the posting options when writing the entry.')]
360                                 ]);
361                                 if ($a->user['hidewall']) {
362                                         $s .= '<p>' . DI::l10n()->t('<strong>Note</strong>: Due to your privacy settings (<em>Hide your profile details from unknown viewers?</em>) the link potentially included in public postings relayed to Twitter will lead the visitor to a blank page informing the visitor that the access to your profile has been restricted.') . '</p>';
363                                 }
364                                 $s .= Renderer::replaceMacros($field_checkbox, [
365                                         '$field' => ['twitter-default', DI::l10n()->t('Send public postings to Twitter by default'), $defenabled, '']
366                                 ]);
367                                 $s .= Renderer::replaceMacros($field_checkbox, [
368                                         '$field' => ['twitter-mirror', DI::l10n()->t('Mirror all posts from twitter that are no replies'), $mirrorenabled, '']
369                                 ]);
370                                 $s .= Renderer::replaceMacros($field_checkbox, [
371                                         '$field' => ['twitter-import', DI::l10n()->t('Import the remote timeline'), $importenabled, '']
372                                 ]);
373                                 $s .= Renderer::replaceMacros($field_checkbox, [
374                                         '$field' => ['twitter-create_user', DI::l10n()->t('Automatically create contacts'), $create_userenabled, DI::l10n()->t('This will automatically create a contact in Friendica as soon as you receive a message from an existing contact via the Twitter network. If you do not enable this, you need to manually add those Twitter contacts in Friendica from whom you would like to see posts here. However if enabled, you cannot merely remove a twitter contact from the Friendica contact list, as it will recreate this contact when they post again.')]
375                                 ]);
376                                 $s .= '<div class="clear"></div>';
377                                 $s .= '<div class="settings-submit-wrapper" ><input type="submit" name="twitter-submit" class="settings-submit" value="' . DI::l10n()->t('Save Settings') . '" /></div>';
378                         } catch (TwitterOAuthException $e) {
379                                 $s .= '<p>' . DI::l10n()->t('An error occured: ') . $e->getMessage() . '</p>';
380                         }
381                 }
382         }
383         $s .= '</div><div class="clear"></div>';
384 }
385
386 function twitter_hook_fork(App $a, array &$b)
387 {
388         if ($b['name'] != 'notifier_normal') {
389                 return;
390         }
391
392         $post = $b['data'];
393
394         // Deleting and editing is not supported by the addon (deleting could, but isn't by now)
395         if ($post['deleted'] || ($post['created'] !== $post['edited'])) {
396                 $b['execute'] = false;
397                 return;
398         }
399
400         // if post comes from twitter don't send it back
401         if (($post['extid'] == Protocol::TWITTER) || twitter_get_id($post['extid'])) {
402                 $b['execute'] = false;
403                 return;
404         }
405
406         if (substr($post['app'], 0, 7) == 'Twitter') {
407                 $b['execute'] = false;
408                 return;
409         }
410
411         if (DI::pConfig()->get($post['uid'], 'twitter', 'import')) {
412                 // Don't fork if it isn't a reply to a twitter post
413                 if (($post['parent'] != $post['id']) && !Post::exists(['id' => $post['parent'], 'network' => Protocol::TWITTER])) {
414                         Logger::notice('No twitter parent found', ['item' => $post['id']]);
415                         $b['execute'] = false;
416                         return;
417                 }
418         } else {
419                 // Comments are never exported when we don't import the twitter timeline
420                 if (!strstr($post['postopts'], 'twitter') || ($post['parent'] != $post['id']) || $post['private']) {
421                         $b['execute'] = false;
422                         return;
423                 }
424         }
425 }
426
427 function twitter_post_local(App $a, array &$b)
428 {
429         if ($b['edit']) {
430                 return;
431         }
432
433         if (!local_user() || (local_user() != $b['uid'])) {
434                 return;
435         }
436
437         $twitter_post = intval(DI::pConfig()->get(local_user(), 'twitter', 'post'));
438         $twitter_enable = (($twitter_post && !empty($_REQUEST['twitter_enable'])) ? intval($_REQUEST['twitter_enable']) : 0);
439
440         // if API is used, default to the chosen settings
441         if ($b['api_source'] && intval(DI::pConfig()->get(local_user(), 'twitter', 'post_by_default'))) {
442                 $twitter_enable = 1;
443         }
444
445         if (!$twitter_enable) {
446                 return;
447         }
448
449         if (strlen($b['postopts'])) {
450                 $b['postopts'] .= ',';
451         }
452
453         $b['postopts'] .= 'twitter';
454 }
455
456 function twitter_probe_detect(App $a, array &$hookData)
457 {
458         // Don't overwrite an existing result
459         if ($hookData['result']) {
460                 return;
461         }
462
463         // Avoid a lookup for the wrong network
464         if (!in_array($hookData['network'], ['', Protocol::TWITTER])) {
465                 return;
466         }
467
468         if (preg_match('=([^@]+)@(?:mobile\.)?twitter\.com$=i', $hookData['uri'], $matches)) {
469                 $nick = $matches[1];
470         } elseif (preg_match('=^https?://(?:mobile\.)?twitter\.com/(.+)=i', $hookData['uri'], $matches)) {
471                 $nick = $matches[1];
472         } else {
473                 return;
474         }
475
476         $user = twitter_fetchuser($nick);
477
478         if ($user) {
479                 $hookData['result'] = twitter_user_to_contact($user);
480         }
481 }
482
483 function twitter_action(App $a, $uid, $pid, $action)
484 {
485         if (empty($pid)) {
486                 return;
487         }
488
489         $ckey = DI::config()->get('twitter', 'consumerkey');
490         $csecret = DI::config()->get('twitter', 'consumersecret');
491         $otoken = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
492         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
493
494         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
495
496         $post = ['id' => $pid];
497
498         Logger::debug('before action', ['action' => $action, 'pid' => $pid, 'data' => $post]);
499
500         switch ($action) {
501                 case 'delete':
502                         // To-Do: $result = $connection->post('statuses/destroy', $post);
503                         $result = [];
504                         break;
505                 case 'like':
506                         $result = $connection->post('favorites/create', $post);
507                         if ($connection->getLastHttpCode() != 200) {
508                                 Logger::warning('Unable to create favorite', ['result' => $result]);
509                         }
510                         break;
511                 case 'unlike':
512                         $result = $connection->post('favorites/destroy', $post);
513                         if ($connection->getLastHttpCode() != 200) {
514                                 Logger::warning('Unable to destroy favorite', ['result' => $result]);
515                         }
516                         break;
517                 default:
518                         Logger::warning('Unhandled action', ['action' => $action]);
519                         $result = [];
520         }
521
522         Logger::info('after action', ['action' => $action, 'result' => $result]);
523 }
524
525 function twitter_get_id(string $uri)
526 {
527         if ((substr($uri, 0, 9) != 'twitter::') || (strlen($uri) <= 9)) {
528                 return 0;
529         }
530
531         $id = substr($uri, 9);
532         if (!is_numeric($id)) {
533                 return 0;
534         }
535
536         return (int)$id;
537 }
538
539 function twitter_post_hook(App $a, array &$b)
540 {
541         // Post to Twitter
542         if (!DI::pConfig()->get($b["uid"], 'twitter', 'import')
543                 && ($b['deleted'] || $b['private'] || ($b['created'] !== $b['edited']))) {
544                 return;
545         }
546
547         $thr_parent = null;
548
549         if ($b['parent'] != $b['id']) {
550                 Logger::debug('Got comment', ['item' => $b]);
551
552                 // Looking if its a reply to a twitter post
553                 if (!twitter_get_id($b["parent-uri"]) &&
554                         !twitter_get_id($b["extid"]) &&
555                         !twitter_get_id($b["thr-parent"])) {
556                         Logger::info('No twitter post', ['parent' => $b["parent"]]);
557                         return;
558                 }
559
560                 $condition = ['uri' => $b["thr-parent"], 'uid' => $b["uid"]];
561                 $thr_parent = Post::selectFirst(['uri', 'extid', 'author-link', 'author-nick', 'author-network'], $condition);
562                 if (!DBA::isResult($thr_parent)) {
563                         Logger::warning('No parent found', ['thr-parent' => $b["thr-parent"]]);
564                         return;
565                 }
566
567                 if ($thr_parent['author-network'] == Protocol::TWITTER) {
568                         $nickname = '@[url=' . $thr_parent['author-link'] . ']' . $thr_parent['author-nick'] . '[/url]';
569                         $nicknameplain = '@' . $thr_parent['author-nick'];
570
571                         Logger::info('Comparing', ['nickname' => $nickname, 'nicknameplain' => $nicknameplain, 'body' => $b["body"]]);
572                         if ((strpos($b["body"], $nickname) === false) && (strpos($b["body"], $nicknameplain) === false)) {
573                                 $b["body"] = $nickname . " " . $b["body"];
574                         }
575                 }
576
577                 Logger::debug('Parent found', ['parent' => $thr_parent]);
578         } else {
579                 if ($b['private'] || !strstr($b['postopts'], 'twitter')) {
580                         return;
581                 }
582
583                 // Dont't post if the post doesn't belong to us.
584                 // This is a check for forum postings
585                 $self = DBA::selectFirst('contact', ['id'], ['uid' => $b['uid'], 'self' => true]);
586                 if ($b['contact-id'] != $self['id']) {
587                         return;
588                 }
589         }
590
591         if (($b['verb'] == Activity::POST) && $b['deleted']) {
592                 twitter_action($a, $b['uid'], twitter_get_id($thr_parent['uri']), 'delete');
593         }
594
595         if ($b['verb'] == Activity::LIKE) {
596                 Logger::info('Like', ['uid' => $b['uid'], 'id' => twitter_get_id($b["thr-parent"])]);
597                 if ($b['deleted']) {
598                         twitter_action($a, $b["uid"], twitter_get_id($b["thr-parent"]), "unlike");
599                 } else {
600                         twitter_action($a, $b["uid"], twitter_get_id($b["thr-parent"]), "like");
601                 }
602
603                 return;
604         }
605
606         if ($b['verb'] == Activity::ANNOUNCE) {
607                 Logger::info('Retweet', ['uid' => $b['uid'], 'id' => twitter_get_id($b["thr-parent"])]);
608                 if ($b['deleted']) {
609                         twitter_action($a, $b['uid'], twitter_get_id($thr_parent['extid']), 'delete');
610                 } else {
611                         twitter_retweet($b["uid"], twitter_get_id($b["thr-parent"]));
612                 }
613
614                 return;
615         }
616
617         if ($b['deleted'] || ($b['created'] !== $b['edited'])) {
618                 return;
619         }
620
621         // if post comes from twitter don't send it back
622         if (($b['extid'] == Protocol::TWITTER) || twitter_get_id($b['extid'])) {
623                 return;
624         }
625
626         if ($b['app'] == "Twitter") {
627                 return;
628         }
629
630         Logger::notice('twitter post invoked', ['id' => $b['id'], 'guid' => $b['guid']]);
631
632         DI::pConfig()->load($b['uid'], 'twitter');
633
634         $ckey    = DI::config()->get('twitter', 'consumerkey');
635         $csecret = DI::config()->get('twitter', 'consumersecret');
636         $otoken  = DI::pConfig()->get($b['uid'], 'twitter', 'oauthtoken');
637         $osecret = DI::pConfig()->get($b['uid'], 'twitter', 'oauthsecret');
638
639         if ($ckey && $csecret && $otoken && $osecret) {
640                 Logger::info('We have customer key and oauth stuff, going to send.');
641
642                 // If it's a repeated message from twitter then do a native retweet and exit
643                 if (twitter_is_retweet($a, $b['uid'], $b['body'])) {
644                         return;
645                 }
646
647                 Codebird::setConsumerKey($ckey, $csecret);
648                 $cb = Codebird::getInstance();
649                 $cb->setToken($otoken, $osecret);
650
651                 $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
652
653                 // Set the timeout for upload to 30 seconds
654                 $connection->setTimeouts(10, 30);
655
656                 $max_char = 280;
657
658                 // Handling non-native reshares
659                 $b['body'] = Friendica\Content\Text\BBCode::convertShare(
660                         $b['body'],
661                         function (array $attributes, array $author_contact, $content, $is_quote_share) {
662                                 return twitter_convert_share($attributes, $author_contact, $content, $is_quote_share);
663                         }
664                 );
665
666                 $b['body'] = twitter_update_mentions($b['body']);
667
668                 $msgarr = Plaintext::getPost($b, $max_char, true, BBCode::TWITTER);
669                 Logger::info('Got plaintext', ['id' => $b['id'], 'message' => $msgarr]);
670                 $msg = $msgarr["text"];
671
672                 if (($msg == "") && isset($msgarr["title"])) {
673                         $msg = Plaintext::shorten($msgarr["title"], $max_char - 50);
674                 }
675
676                 // Add the link to the body if the type isn't a photo or there are more than 4 images in the post
677                 if (!empty($msgarr['url']) && (($msgarr['type'] != 'photo') || empty($msgarr['images']) || (count($msgarr['images']) > 4))) {
678                         $msg .= "\n" . $msgarr['url'];
679                 }
680
681                 if (empty($msg)) {
682                         Logger::notice('Empty message', ['id' => $b['id']]);
683                         return;
684                 }
685
686                 // and now tweet it :-)
687                 $post = [];
688
689                 if (!empty($msgarr['images'])) {
690                         Logger::info('Got images', ['id' => $b['id'], 'images' => $msgarr['images']]);
691                         try {
692                                 $media_ids = [];
693                                 foreach ($msgarr['images'] as $image) {
694                                         if (count($media_ids) == 4) {
695                                                 continue;
696                                         }
697
698                                         $img_str = DI::httpRequest()->fetch($image['url']);
699
700                                         $tempfile = tempnam(get_temppath(), 'cache');
701                                         file_put_contents($tempfile, $img_str);
702
703                                         Logger::info('Uploading', ['id' => $b['id'], 'image' => $image['url']]);
704                                         $media = $connection->upload('media/upload', ['media' => $tempfile]);
705
706                                         unlink($tempfile);
707
708                                         if (isset($media->media_id_string)) {
709                                                 $media_ids[] = $media->media_id_string;
710
711                                                 if (!empty($image['description'])) {
712                                                         $data = ['media_id' => $media->media_id_string,
713                                                                 'alt_text' => ['text' => substr($image['description'], 0, 420)]];
714                                                         $ret = $cb->media_metadata_create($data);
715                                                         Logger::info('Metadata create', ['id' => $b['id'], 'data' => $data, 'return' => json_encode($ret)]);
716                                                 }
717                                         } else {
718                                                 Logger::error('Failed upload', ['id' => $b['id'], 'image' => $image['url']]);
719                                                 throw new Exception('Failed upload of ' . $image['url']);
720                                         }
721                                 }
722                                 $post['media_ids'] = implode(',', $media_ids);
723                                 if (empty($post['media_ids'])) {
724                                         unset($post['media_ids']);
725                                 }
726                         } catch (Exception $e) {
727                                 Logger::warning('Exception when trying to send to Twitter', ['id' => $b['id'], 'message' => $e->getMessage()]);
728                         }
729                 }
730
731                 $post['status'] = $msg;
732
733                 if ($thr_parent) {
734                         $post['in_reply_to_status_id'] = twitter_get_id($thr_parent['uri']);
735                 }
736
737                 $url = 'statuses/update';
738                 $result = $connection->post($url, $post);
739                 Logger::info('twitter_post send', ['id' => $b['id'], 'result' => $result]);
740
741                 if (!empty($result->source)) {
742                         DI::config()->set("twitter", "application_name", strip_tags($result->source));
743                 }
744
745                 if (!empty($result->errors)) {
746                         Logger::error('Send to Twitter failed', ['id' => $b['id'], 'error' => $result->errors]);
747                         Worker::defer();
748                 } elseif ($thr_parent) {
749                         Logger::notice('Post send, updating extid', ['id' => $b['id'], 'extid' => $result->id_str]);
750                         Item::update(['extid' => "twitter::" . $result->id_str], ['id' => $b['id']]);
751                 }
752         }
753 }
754
755 function twitter_addon_admin_post(App $a)
756 {
757         $consumerkey    = !empty($_POST['consumerkey'])    ? Strings::escapeTags(trim($_POST['consumerkey']))    : '';
758         $consumersecret = !empty($_POST['consumersecret']) ? Strings::escapeTags(trim($_POST['consumersecret'])) : '';
759         DI::config()->set('twitter', 'consumerkey', $consumerkey);
760         DI::config()->set('twitter', 'consumersecret', $consumersecret);
761 }
762
763 function twitter_addon_admin(App $a, &$o)
764 {
765         $t = Renderer::getMarkupTemplate("admin.tpl", "addon/twitter/");
766
767         $o = Renderer::replaceMacros($t, [
768                 '$submit' => DI::l10n()->t('Save Settings'),
769                 // name, label, value, help, [extra values]
770                 '$consumerkey' => ['consumerkey', DI::l10n()->t('Consumer key'), DI::config()->get('twitter', 'consumerkey'), ''],
771                 '$consumersecret' => ['consumersecret', DI::l10n()->t('Consumer secret'), DI::config()->get('twitter', 'consumersecret'), ''],
772         ]);
773 }
774
775 function twitter_cron(App $a)
776 {
777         $last = DI::config()->get('twitter', 'last_poll');
778
779         $poll_interval = intval(DI::config()->get('twitter', 'poll_interval'));
780         if (!$poll_interval) {
781                 $poll_interval = TWITTER_DEFAULT_POLL_INTERVAL;
782         }
783
784         if ($last) {
785                 $next = $last + ($poll_interval * 60);
786                 if ($next > time()) {
787                         Logger::notice('twitter: poll intervall not reached');
788                         return;
789                 }
790         }
791         Logger::notice('twitter: cron_start');
792
793         $r = q("SELECT * FROM `pconfig` WHERE `cat` = 'twitter' AND `k` = 'mirror_posts' AND `v` = '1'");
794         if (DBA::isResult($r)) {
795                 foreach ($r as $rr) {
796                         Logger::notice('Fetching', ['user' => $rr['uid']]);
797                         Worker::add(['priority' => PRIORITY_MEDIUM, 'force_priority' => true], "addon/twitter/twitter_sync.php", 1, (int) $rr['uid']);
798                 }
799         }
800
801         $abandon_days = intval(DI::config()->get('system', 'account_abandon_days'));
802         if ($abandon_days < 1) {
803                 $abandon_days = 0;
804         }
805
806         $abandon_limit = date(DateTimeFormat::MYSQL, time() - $abandon_days * 86400);
807
808         $r = q("SELECT * FROM `pconfig` WHERE `cat` = 'twitter' AND `k` = 'import' AND `v` = '1'");
809         if (DBA::isResult($r)) {
810                 foreach ($r as $rr) {
811                         if ($abandon_days != 0) {
812                                 $user = q("SELECT `login_date` FROM `user` WHERE uid=%d AND `login_date` >= '%s'", $rr['uid'], $abandon_limit);
813                                 if (!DBA::isResult($user)) {
814                                         Logger::notice('abandoned account: timeline from user will not be imported', ['user' => $rr['uid']]);
815                                         continue;
816                                 }
817                         }
818
819                         Logger::notice('importing timeline', ['user' => $rr['uid']]);
820                         Worker::add(['priority' => PRIORITY_MEDIUM, 'force_priority' => true], "addon/twitter/twitter_sync.php", 2, (int) $rr['uid']);
821                         /*
822                           // To-Do
823                           // check for new contacts once a day
824                           $last_contact_check = DI::pConfig()->get($rr['uid'],'pumpio','contact_check');
825                           if($last_contact_check)
826                           $next_contact_check = $last_contact_check + 86400;
827                           else
828                           $next_contact_check = 0;
829
830                           if($next_contact_check <= time()) {
831                           pumpio_getallusers($a, $rr["uid"]);
832                           DI::pConfig()->set($rr['uid'],'pumpio','contact_check',time());
833                           }
834                          */
835                 }
836         }
837
838         Logger::notice('twitter: cron_end');
839
840         DI::config()->set('twitter', 'last_poll', time());
841 }
842
843 function twitter_expire(App $a)
844 {
845         $days = DI::config()->get('twitter', 'expire');
846
847         if ($days == 0) {
848                 return;
849         }
850
851         Logger::notice('Start deleting expired posts');
852
853         $r = Post::select(['id', 'guid'], ['deleted' => true, 'network' => Protocol::TWITTER]);
854         while ($row = Post::fetch($r)) {
855                 Logger::info('[twitter] Delete expired item', ['id' => $row['id'], 'guid' => $row['guid'], 'callstack' => \Friendica\Core\System::callstack()]);
856                 Item::markForDeletionById($row['id']);
857         }
858         DBA::close($r);
859
860         Logger::notice('End deleting expired posts');
861
862         Logger::notice('Start expiry');
863
864         $r = q("SELECT * FROM `pconfig` WHERE `cat` = 'twitter' AND `k` = 'import' AND `v` = '1' ORDER BY RAND()");
865         if (DBA::isResult($r)) {
866                 foreach ($r as $rr) {
867                         Logger::notice('twitter_expire', ['user' => $rr['uid']]);
868                         Item::expire($rr['uid'], $days, Protocol::TWITTER, true);
869                 }
870         }
871
872         Logger::notice('End expiry');
873 }
874
875 function twitter_prepare_body(App $a, array &$b)
876 {
877         if ($b["item"]["network"] != Protocol::TWITTER) {
878                 return;
879         }
880
881         if ($b["preview"]) {
882                 $max_char = 280;
883                 $item = $b["item"];
884                 $item["plink"] = DI::baseUrl()->get() . "/display/" . $item["guid"];
885
886                 $condition = ['uri' => $item["thr-parent"], 'uid' => local_user()];
887                 $orig_post = Post::selectFirst(['author-link'], $condition);
888                 if (DBA::isResult($orig_post)) {
889                         $nicknameplain = preg_replace("=https?://twitter.com/(.*)=ism", "$1", $orig_post["author-link"]);
890                         $nickname = "@[url=" . $orig_post["author-link"] . "]" . $nicknameplain . "[/url]";
891                         $nicknameplain = "@" . $nicknameplain;
892
893                         if ((strpos($item["body"], $nickname) === false) && (strpos($item["body"], $nicknameplain) === false)) {
894                                 $item["body"] = $nickname . " " . $item["body"];
895                         }
896                 }
897
898                 $msgarr = Plaintext::getPost($item, $max_char, true, BBCode::TWITTER);
899                 $msg = $msgarr["text"];
900
901                 if (isset($msgarr["url"]) && ($msgarr["type"] != "photo")) {
902                         $msg .= " " . $msgarr["url"];
903                 }
904
905                 if (isset($msgarr["image"])) {
906                         $msg .= " " . $msgarr["image"];
907                 }
908
909                 $b['html'] = nl2br(htmlspecialchars($msg));
910         }
911 }
912
913 function twitter_statuses_show(string $id, TwitterOAuth $twitterOAuth = null)
914 {
915         if ($twitterOAuth === null) {
916                 $ckey = DI::config()->get('twitter', 'consumerkey');
917                 $csecret = DI::config()->get('twitter', 'consumersecret');
918
919                 if (empty($ckey) || empty($csecret)) {
920                         return new stdClass();
921                 }
922
923                 $twitterOAuth = new TwitterOAuth($ckey, $csecret);
924         }
925
926         $parameters = ['trim_user' => false, 'tweet_mode' => 'extended', 'id' => $id, 'include_ext_alt_text' => true];
927
928         return $twitterOAuth->get('statuses/show', $parameters);
929 }
930
931 /**
932  * Parse Twitter status URLs since Twitter removed OEmbed
933  *
934  * @param App   $a
935  * @param array $b Expected format:
936  *                 [
937  *                      'url' => [URL to parse],
938  *                      'format' => 'json'|'',
939  *                      'text' => Output parameter
940  *                 ]
941  * @throws \Friendica\Network\HTTPException\InternalServerErrorException
942  */
943 function twitter_parse_link(App $a, array &$b)
944 {
945         // Only handle Twitter status URLs
946         if (!preg_match('#^https?://(?:mobile\.|www\.)?twitter.com/[^/]+/status/(\d+).*#', $b['url'], $matches)) {
947                 return;
948         }
949
950         $status = twitter_statuses_show($matches[1]);
951
952         if (empty($status->id)) {
953                 return;
954         }
955
956         $item = twitter_createpost($a, 0, $status, [], true, false, true);
957
958         if ($b['format'] == 'json') {
959                 $images = [];
960                 foreach ($status->extended_entities->media ?? [] as $media) {
961                         if (!empty($media->media_url_https)) {
962                                 $images[] = [
963                                         'src'    => $media->media_url_https,
964                                         'width'  => $media->sizes->thumb->w,
965                                         'height' => $media->sizes->thumb->h,
966                                 ];
967                         }
968                 }
969
970                 $b['text'] = [
971                         'data' => [
972                                 'type' => 'link',
973                                 'url' => $item['plink'],
974                                 'title' => DI::l10n()->t('%s on Twitter', $status->user->name),
975                                 'text' => BBCode::toPlaintext($item['body'], false),
976                                 'images' => $images,
977                         ],
978                         'contentType' => 'attachment',
979                         'success' => true,
980                 ];
981         } else {
982                 $b['text'] = BBCode::getShareOpeningTag(
983                         $item['author-name'],
984                         $item['author-link'],
985                         $item['author-avatar'],
986                         $item['plink'],
987                         $item['created']
988                 );
989                 $b['text'] .= $item['body'] . '[/share]';
990         }
991 }
992
993
994 /*********************
995  *
996  * General functions
997  *
998  *********************/
999
1000
1001 /**
1002  * @brief Build the item array for the mirrored post
1003  *
1004  * @param App $a Application class
1005  * @param integer $uid User id
1006  * @param object $post Twitter object with the post
1007  *
1008  * @return array item data to be posted
1009  */
1010 function twitter_do_mirrorpost(App $a, $uid, $post)
1011 {
1012         $datarray['uid'] = $uid;
1013         $datarray['extid'] = 'twitter::' . $post->id;
1014         $datarray['title'] = '';
1015
1016         if (!empty($post->retweeted_status)) {
1017                 // We don't support nested shares, so we mustn't show quotes as shares on retweets
1018                 $item = twitter_createpost($a, $uid, $post->retweeted_status, ['id' => 0], false, false, true, -1);
1019
1020                 if (empty($item['body'])) {
1021                         return [];
1022                 }
1023
1024                 $datarray['body'] = "\n" . BBCode::getShareOpeningTag(
1025                         $item['author-name'],
1026                         $item['author-link'],
1027                         $item['author-avatar'],
1028                         $item['plink'],
1029                         $item['created']
1030                 );
1031
1032                 $datarray['body'] .= $item['body'] . '[/share]';
1033         } else {
1034                 $item = twitter_createpost($a, $uid, $post, ['id' => 0], false, false, false, -1);
1035
1036                 if (empty($item['body'])) {
1037                         return [];
1038                 }
1039
1040                 $datarray['body'] = $item['body'];
1041         }
1042
1043         $datarray['app'] = $item['app'];
1044         $datarray['verb'] = $item['verb'];
1045
1046         if (isset($item['location'])) {
1047                 $datarray['location'] = $item['location'];
1048         }
1049
1050         if (isset($item['coord'])) {
1051                 $datarray['coord'] = $item['coord'];
1052         }
1053
1054         return $datarray;
1055 }
1056
1057 function twitter_fetchtimeline(App $a, $uid)
1058 {
1059         $ckey    = DI::config()->get('twitter', 'consumerkey');
1060         $csecret = DI::config()->get('twitter', 'consumersecret');
1061         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
1062         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
1063         $lastid  = DI::pConfig()->get($uid, 'twitter', 'lastid');
1064
1065         $application_name = DI::config()->get('twitter', 'application_name');
1066
1067         if ($application_name == "") {
1068                 $application_name = DI::baseUrl()->getHostname();
1069         }
1070
1071         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
1072
1073         // Ensure to have the own contact
1074         try {
1075                 twitter_fetch_own_contact($a, $uid);
1076         } catch (TwitterOAuthException $e) {
1077                 Logger::warning('Error fetching own contact', ['uid' => $uid, 'message' => $e->getMessage()]);
1078                 return;
1079         }
1080
1081         $parameters = ["exclude_replies" => true, "trim_user" => false, "contributor_details" => true, "include_rts" => true, "tweet_mode" => "extended", "include_ext_alt_text" => true];
1082
1083         $first_time = ($lastid == "");
1084
1085         if ($lastid != "") {
1086                 $parameters["since_id"] = $lastid;
1087         }
1088
1089         try {
1090                 $items = $connection->get('statuses/user_timeline', $parameters);
1091         } catch (TwitterOAuthException $e) {
1092                 Logger::warning('Error fetching timeline', ['uid' => $uid, 'message' => $e->getMessage()]);
1093                 return;
1094         }
1095
1096         if (!is_array($items)) {
1097                 Logger::notice('No items', ['user' => $uid]);
1098                 return;
1099         }
1100
1101         $posts = array_reverse($items);
1102
1103         Logger::notice('Start processing posts', ['from' => $lastid, 'user' => $uid, 'count' => count($posts)]);
1104
1105         if (count($posts)) {
1106                 foreach ($posts as $post) {
1107                         if ($post->id_str > $lastid) {
1108                                 $lastid = $post->id_str;
1109                                 DI::pConfig()->set($uid, 'twitter', 'lastid', $lastid);
1110                         }
1111
1112                         if ($first_time) {
1113                                 continue;
1114                         }
1115
1116                         if (!stristr($post->source, $application_name)) {
1117                                 Logger::info('Preparing mirror post', ['twitter-id' => $post->id_str, 'uid' => $uid]);
1118
1119                                 $mirrorpost = twitter_do_mirrorpost($a, $uid, $post);
1120
1121                                 if (empty($mirrorpost['body'])) {
1122                                         continue;
1123                                 }
1124
1125                                 Logger::info('Posting mirror post', ['twitter-id' => $post->id_str, 'uid' => $uid]);
1126
1127                                 Post\Delayed::add($mirrorpost['extid'], $mirrorpost, PRIORITY_MEDIUM, true);
1128                         }
1129                 }
1130         }
1131         DI::pConfig()->set($uid, 'twitter', 'lastid', $lastid);
1132         Logger::log('Last ID for user ' . $uid . ' is now ' . $lastid, Logger::DEBUG);
1133 }
1134
1135 function twitter_fix_avatar($avatar)
1136 {
1137         $new_avatar = str_replace("_normal.", ".", $avatar);
1138
1139         $info = Images::getInfoFromURLCached($new_avatar);
1140         if (!$info) {
1141                 $new_avatar = $avatar;
1142         }
1143
1144         return $new_avatar;
1145 }
1146
1147 function twitter_get_relation($uid, $target, $contact = [])
1148 {
1149         if (isset($contact['rel'])) {
1150                 $relation = $contact['rel'];
1151         } else {
1152                 $relation = 0;
1153         }
1154
1155         $ckey = DI::config()->get('twitter', 'consumerkey');
1156         $csecret = DI::config()->get('twitter', 'consumersecret');
1157         $otoken = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
1158         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
1159         $own_id = DI::pConfig()->get($uid, 'twitter', 'own_id');
1160
1161         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
1162         $parameters = ['source_id' => $own_id, 'target_screen_name' => $target];
1163
1164         try {
1165                 $status = $connection->get('friendships/show', $parameters);
1166                 if ($connection->getLastHttpCode() !== 200) {
1167                         throw new Exception($status->errors[0]->message ?? 'HTTP response code ' . $connection->getLastHttpCode(), $status->errors[0]->code ?? $connection->getLastHttpCode());
1168                 }
1169
1170                 $following = $status->relationship->source->following;
1171                 $followed = $status->relationship->source->followed_by;
1172
1173                 if ($following && !$followed) {
1174                         $relation = Contact::SHARING;
1175                 } elseif (!$following && $followed) {
1176                         $relation = Contact::FOLLOWER;
1177                 } elseif ($following && $followed) {
1178                         $relation = Contact::FRIEND;
1179                 } elseif (!$following && !$followed) {
1180                         $relation = 0;
1181                 }
1182
1183                 Logger::info('Fetched friendship relation', ['user' => $uid, 'target' => $target, 'relation' => $relation]);
1184         } catch (Throwable $e) {
1185                 Logger::warning('Error fetching friendship status', ['uid' => $uid, 'target' => $target, 'message' => $e->getMessage()]);
1186         }
1187
1188         return $relation;
1189 }
1190
1191 /**
1192  * @param $data
1193  * @return array
1194  */
1195 function twitter_user_to_contact($data)
1196 {
1197         if (empty($data->id_str)) {
1198                 return [];
1199         }
1200
1201         $baseurl = 'https://twitter.com';
1202         $url = $baseurl . '/' . $data->screen_name;
1203         $addr = $data->screen_name . '@twitter.com';
1204
1205         $fields = [
1206                 'url'      => $url,
1207                 'network'  => Protocol::TWITTER,
1208                 'alias'    => 'twitter::' . $data->id_str,
1209                 'baseurl'  => $baseurl,
1210                 'name'     => $data->name,
1211                 'nick'     => $data->screen_name,
1212                 'addr'     => $addr,
1213                 'location' => $data->location,
1214                 'about'    => $data->description,
1215                 'photo'    => twitter_fix_avatar($data->profile_image_url_https),
1216         ];
1217
1218         return $fields;
1219 }
1220
1221 function twitter_fetch_contact($uid, $data, $create_user)
1222 {
1223         $fields = twitter_user_to_contact($data);
1224
1225         if (empty($fields)) {
1226                 return -1;
1227         }
1228
1229         // photo comes from twitter_user_to_contact but shouldn't be saved directly in the contact row
1230         $avatar = $fields['photo'];
1231         unset($fields['photo']);
1232
1233         // Update the public contact
1234         $pcontact = DBA::selectFirst('contact', ['id'], ['uid' => 0, 'alias' => "twitter::" . $data->id_str]);
1235         if (DBA::isResult($pcontact)) {
1236                 $cid = $pcontact['id'];
1237         } else {
1238                 $cid = Contact::getIdForURL($fields['url'], 0, false, $fields);
1239         }
1240
1241         if (!empty($cid)) {
1242                 DBA::update('contact', $fields, ['id' => $cid]);
1243                 Contact::updateAvatar($cid, $avatar);
1244         } else {
1245                 Logger::warning('No contact found', ['fields' => $fields]);
1246         }
1247
1248         $contact = DBA::selectFirst('contact', [], ['uid' => $uid, 'alias' => "twitter::" . $data->id_str]);
1249         if (!DBA::isResult($contact) && empty($cid)) {
1250                 Logger::warning('User contact not found', ['uid' => $uid, 'twitter-id' => $data->id_str]);
1251                 return 0;
1252         } elseif (!$create_user) {
1253                 return $cid;
1254         }
1255
1256         if (!DBA::isResult($contact)) {
1257                 $relation = twitter_get_relation($uid, $data->screen_name);
1258
1259                 // create contact record
1260                 $fields['uid'] = $uid;
1261                 $fields['created'] = DateTimeFormat::utcNow();
1262                 $fields['nurl'] = Strings::normaliseLink($fields['url']);
1263                 $fields['poll'] = 'twitter::' . $data->id_str;
1264                 $fields['rel'] = $relation;
1265                 $fields['priority'] = 1;
1266                 $fields['writable'] = true;
1267                 $fields['blocked'] = false;
1268                 $fields['readonly'] = false;
1269                 $fields['pending'] = false;
1270
1271                 if (!DBA::insert('contact', $fields)) {
1272                         return false;
1273                 }
1274
1275                 $contact_id = DBA::lastInsertId();
1276
1277                 Group::addMember(User::getDefaultGroup($uid), $contact_id);
1278
1279                 Contact::updateAvatar($contact_id, $avatar);
1280         } else {
1281                 if ($contact["readonly"] || $contact["blocked"]) {
1282                         Logger::notice('Contact is blocked or readonly.', ['nickname' => $contact["nick"]]);
1283                         return -1;
1284                 }
1285
1286                 $contact_id = $contact['id'];
1287                 $update = false;
1288
1289                 // Update the contact relation once per day
1290                 if ($contact['updated'] < DateTimeFormat::utc('now -24 hours')) {
1291                         $fields['rel'] = twitter_get_relation($uid, $data->screen_name, $contact);
1292                         $update = true;
1293                 }
1294
1295                 Contact::updateAvatar($contact['id'], $avatar);
1296
1297                 if ($contact['name'] != $data->name) {
1298                         $fields['name-date'] = $fields['uri-date'] = DateTimeFormat::utcNow();
1299                         $update = true;
1300                 }
1301
1302                 if ($contact['nick'] != $data->screen_name) {
1303                         $fields['uri-date'] = DateTimeFormat::utcNow();
1304                         $update = true;
1305                 }
1306
1307                 if (($contact['location'] != $data->location) || ($contact['about'] != $data->description)) {
1308                         $update = true;
1309                 }
1310
1311                 if ($update) {
1312                         $fields['updated'] = DateTimeFormat::utcNow();
1313                         DBA::update('contact', $fields, ['id' => $contact['id']]);
1314                         Logger::info('Updated contact', ['id' => $contact['id'], 'nick' => $data->screen_name]);
1315                 }
1316         }
1317
1318         return $contact_id;
1319 }
1320
1321 /**
1322  * @param string $screen_name
1323  * @return stdClass|null
1324  * @throws Exception
1325  */
1326 function twitter_fetchuser($screen_name)
1327 {
1328         $ckey = DI::config()->get('twitter', 'consumerkey');
1329         $csecret = DI::config()->get('twitter', 'consumersecret');
1330
1331         try {
1332                 // Fetching user data
1333                 $connection = new TwitterOAuth($ckey, $csecret);
1334                 $parameters = ['screen_name' => $screen_name];
1335                 $user = $connection->get('users/show', $parameters);
1336         } catch (TwitterOAuthException $e) {
1337                 Logger::warning('Error fetching user', ['user' => $screen_name, 'message' => $e->getMessage()]);
1338                 return null;
1339         }
1340
1341         if (!is_object($user)) {
1342                 return null;
1343         }
1344
1345         return $user;
1346 }
1347
1348 /**
1349  * Replaces Twitter entities with Friendica-friendly links.
1350  *
1351  * The Twitter API gives indices for each entity, which allows for fine-grained replacement.
1352  *
1353  * First, we need to collect everything that needs to be replaced, what we will replace it with, and the start index.
1354  * Then we sort the indices decreasingly, and we replace from the end of the body to the start in order for the next
1355  * index to be correct even after the last replacement.
1356  *
1357  * @param string   $body
1358  * @param stdClass $status
1359  * @param string   $picture
1360  * @return array
1361  * @throws \Friendica\Network\HTTPException\InternalServerErrorException
1362  */
1363 function twitter_expand_entities($body, stdClass $status, $picture)
1364 {
1365         $plain = $body;
1366
1367         $taglist = [];
1368
1369         $replacementList = [];
1370
1371         foreach ($status->entities->hashtags AS $hashtag) {
1372                 $replace = '#[url=' . DI::baseUrl()->get() . '/search?tag=' . $hashtag->text . ']' . $hashtag->text . '[/url]';
1373                 $taglist['#' . $hashtag->text] = ['#', $hashtag->text, ''];
1374
1375                 $replacementList[$hashtag->indices[0]] = [
1376                         'replace' => $replace,
1377                         'length' => $hashtag->indices[1] - $hashtag->indices[0],
1378                 ];
1379         }
1380
1381         foreach ($status->entities->user_mentions AS $mention) {
1382                 $replace = '@[url=https://twitter.com/' . rawurlencode($mention->screen_name) . ']' . $mention->screen_name . '[/url]';
1383                 $taglist['@' . $mention->screen_name] = ['@', $mention->screen_name, 'https://twitter.com/' . rawurlencode($mention->screen_name)];
1384
1385                 $replacementList[$mention->indices[0]] = [
1386                         'replace' => $replace,
1387                         'length' => $mention->indices[1] - $mention->indices[0],
1388                 ];
1389         }
1390
1391         foreach ($status->entities->urls ?? [] as $url) {
1392                 $plain = str_replace($url->url, '', $plain);
1393
1394                 if ($url->url && $url->expanded_url && $url->display_url) {
1395                         // Quote tweet, we just remove the quoted tweet URL from the body, the share block will be added later.
1396                         if (!empty($status->quoted_status) && isset($status->quoted_status_id_str)
1397                                 && substr($url->expanded_url, -strlen($status->quoted_status_id_str)) == $status->quoted_status_id_str
1398                         ) {
1399                                 $replacementList[$url->indices[0]] = [
1400                                         'replace' => '',
1401                                         'length' => $url->indices[1] - $url->indices[0],
1402                                 ];
1403                                 continue;
1404                         }
1405
1406                         $expanded_url = $url->expanded_url;
1407
1408                         $final_url = DI::httpRequest()->finalUrl($url->expanded_url);
1409
1410                         $oembed_data = OEmbed::fetchURL($final_url);
1411
1412                         $type = $oembed_data->type ?? '';
1413
1414                         // Quickfix: Workaround for URL with '[' and ']' in it
1415                         if (strpos($expanded_url, '[') || strpos($expanded_url, ']')) {
1416                                 $expanded_url = $url->url;
1417                         }
1418
1419                         if ($type === 'photo' && !empty($oembed_data->url)) {
1420                                 $replace = '[url=' . $expanded_url . '][img]' . $oembed_data->url . '[/img][/url]';
1421                         } elseif ($type === 'link') {
1422                                 $curlResult = DI::httpRequest()->head($final_url, ['timeout' => 4]);
1423                                 if ($curlResult->isSuccess()) {
1424                                         $mimetype = $curlResult->getHeader('Content-Type');
1425                                 } else {
1426                                         $mimetype = '';
1427                                 }
1428
1429                                 if (substr($mimetype, 0, 6) == 'image/') {
1430                                         $replace = '[img]' . $final_url . '[/img]';
1431                                 } else {
1432                                         $replace = '[url=' . $expanded_url . ']' . $url->display_url . '[/url]';
1433                                 }
1434                         } else {
1435                                 $replace = '[url=' . $expanded_url . ']' . $url->display_url . '[/url]';
1436                         }
1437
1438                         $replacementList[$url->indices[0]] = [
1439                                 'replace' => $replace,
1440                                 'length' => $url->indices[1] - $url->indices[0],
1441                         ];
1442                 }
1443         }
1444
1445         krsort($replacementList);
1446
1447         foreach ($replacementList as $startIndex => $parameters) {
1448                 $body = Strings::substringReplace($body, $parameters['replace'], $startIndex, $parameters['length']);
1449         }
1450
1451         $body = trim($body);
1452
1453         // Footer will be taken care of with a share block in the case of a quote
1454         if (empty($status->quoted_status)) {
1455                 if ($picture) {
1456                         $body .= "\n\n[img]" . $picture . "[/img]\n";
1457                 }
1458         }
1459
1460         return ['body' => trim($body), 'plain' => trim($plain), 'taglist' => $taglist];
1461 }
1462
1463 /**
1464  * Store entity attachments
1465  *
1466  * @param integer $uriid
1467  * @param object $post Twitter object with the post
1468  */
1469 function twitter_store_attachments(int $uriid, $post)
1470 {
1471         if (!empty($post->extended_entities->media)) {
1472                 foreach ($post->extended_entities->media AS $medium) {
1473                         switch ($medium->type) {
1474                                 case 'photo':
1475                                         $attachment = ['uri-id' => $uriid, 'type' => Post\Media::IMAGE];
1476
1477                                         // Later store the large picture when we don't add them to the body anymore
1478                                         //$attachment['url'] = $medium->media_url_https . '?name=large';
1479                                         //$attachment['width'] = $medium->sizes->large->w;
1480                                         //$attachment['height'] = $medium->sizes->large->h;
1481
1482                                         $attachment['url'] = $medium->media_url_https;
1483                                         $attachment['width'] = $medium->sizes->medium->w;
1484                                         $attachment['height'] = $medium->sizes->medium->h;
1485
1486                                         if ($medium->sizes->small->w != $attachment['width']) {
1487                                                 $attachment['preview'] = $medium->media_url_https . '?name=small';
1488                                                 $attachment['preview-width'] = $medium->sizes->small->w;
1489                                                 $attachment['preview-height'] = $medium->sizes->small->h;
1490                                         }
1491
1492                                         $attachment['name'] = $medium->display_url ?? null;
1493                                         $attachment['description'] = $medium->ext_alt_text ?? null;
1494                                         Logger::debug('Photo attachment', ['attachment' => $attachment]);
1495                                         Post\Media::insert($attachment);
1496                                         break;
1497                                 case 'video':
1498                                 case 'animated_gif':
1499                                         $attachment = ['uri-id' => $uriid, 'type' => Post\Media::VIDEO];
1500                                         if (is_array($medium->video_info->variants)) {
1501                                                 $bitrate = 0;
1502                                                 // We take the video with the highest bitrate
1503                                                 foreach ($medium->video_info->variants AS $variant) {
1504                                                         if (($variant->content_type == 'video/mp4') && ($variant->bitrate >= $bitrate)) {
1505                                                                 $attachment['url'] = $variant->url;
1506                                                                 $bitrate = $variant->bitrate;
1507                                                         }
1508                                                 }
1509                                         }
1510
1511                                         $attachment['name'] = $medium->display_url ?? null;
1512                                         $attachment['preview'] = $medium->media_url_https . ':small';
1513                                         $attachment['preview-width'] = $medium->sizes->small->w;
1514                                         $attachment['preview-height'] = $medium->sizes->small->h;
1515                                         $attachment['description'] = $medium->ext_alt_text ?? null;
1516                                         Logger::debug('Video attachment', ['attachment' => $attachment]);
1517                                         Post\Media::insert($attachment);
1518                                         break;
1519                                 default:
1520                                         Logger::notice('Unknown media type', ['medium' => $medium]);
1521                         }
1522                 }
1523         }
1524
1525         if (!empty($post->entities->urls)) {
1526                 foreach ($post->entities->urls as $url) {
1527                         $attachment = ['uri-id' => $uriid, 'type' => Post\Media::UNKNOWN, 'url' => $url->expanded_url, 'name' => $url->display_url];
1528                         Logger::debug('Attached link', ['attachment' => $attachment]);
1529                         Post\Media::insert($attachment);
1530                 }
1531         }
1532 }
1533
1534 /**
1535  * @brief Fetch media entities and add media links to the body
1536  *
1537  * @param object $post Twitter object with the post
1538  * @param array $postarray Array of the item that is about to be posted
1539  *
1540  * @return $picture string Image URL or empty string
1541  */
1542 function twitter_media_entities($post, array &$postarray)
1543 {
1544         // There are no media entities? So we quit.
1545         if (empty($post->extended_entities->media)) {
1546                 return '';
1547         }
1548
1549         // When the post links to an external page, we only take one picture.
1550         // We only do this when there is exactly one media.
1551         if ((count($post->entities->urls) > 0) && (count($post->extended_entities->media) == 1)) {
1552                 $medium = $post->extended_entities->media[0];
1553                 $picture = '';
1554                 foreach ($post->entities->urls as $link) {
1555                         // Let's make sure the external link url matches the media url
1556                         if ($medium->url == $link->url && isset($medium->media_url_https)) {
1557                                 $picture = $medium->media_url_https;
1558                                 $postarray['body'] = str_replace($medium->url, '', $postarray['body']);
1559                                 return $picture;
1560                         }
1561                 }
1562         }
1563
1564
1565
1566         // This is a pure media post, first search for all media urls
1567         $media = [];
1568         foreach ($post->extended_entities->media AS $medium) {
1569                 if (!isset($media[$medium->url])) {
1570                         $media[$medium->url] = '';
1571                 }
1572                 switch ($medium->type) {
1573                         case 'photo':
1574                                 if (!empty($medium->ext_alt_text)) {
1575                                         Logger::info('Got text description', ['alt_text' => $medium->ext_alt_text]);
1576                                         $media[$medium->url] .= "\n[img=" . $medium->media_url_https .']' . $medium->ext_alt_text . '[/img]';
1577                                 } else {
1578                                         $media[$medium->url] .= "\n[img]" . $medium->media_url_https . '[/img]';
1579                                 }
1580
1581                                 $postarray['object-type'] = Activity\ObjectType::IMAGE;
1582                                 $postarray['post-type'] = Item::PT_IMAGE;
1583                                 break;
1584                         case 'video':
1585                                 $postarray['post-type'] = Item::PT_VIDEO;
1586                         case 'animated_gif':
1587                                 if (!empty($medium->ext_alt_text)) {
1588                                         Logger::info('Got text description', ['alt_text' => $medium->ext_alt_text]);
1589                                         $media[$medium->url] .= "\n[img=" . $medium->media_url_https .']' . $medium->ext_alt_text . '[/img]';
1590                                 } else {
1591                                         $media[$medium->url] .= "\n[img]" . $medium->media_url_https . '[/img]';
1592                                 }
1593
1594                                 $postarray['object-type'] = Activity\ObjectType::VIDEO;
1595                                 if (is_array($medium->video_info->variants)) {
1596                                         $bitrate = 0;
1597                                         // We take the video with the highest bitrate
1598                                         foreach ($medium->video_info->variants AS $variant) {
1599                                                 if (($variant->content_type == 'video/mp4') && ($variant->bitrate >= $bitrate)) {
1600                                                         $media[$medium->url] = "\n[video]" . $variant->url . '[/video]';
1601                                                         $bitrate = $variant->bitrate;
1602                                                 }
1603                                         }
1604                                 }
1605                                 break;
1606                         // The following code will only be activated for test reasons
1607                         //default:
1608                         //      $postarray['body'] .= print_r($medium, true);
1609                 }
1610         }
1611
1612         // Now we replace the media urls.
1613         foreach ($media AS $key => $value) {
1614                 $postarray['body'] = str_replace($key, "\n" . $value . "\n", $postarray['body']);
1615         }
1616
1617         return '';
1618 }
1619
1620 /**
1621  * Undocumented function
1622  *
1623  * @param App $a
1624  * @param integer $uid User ID
1625  * @param object $post Incoming Twitter post
1626  * @param array $self
1627  * @param bool $create_user Should users be created?
1628  * @param bool $only_existing_contact Only import existing contacts if set to "true"
1629  * @param bool $noquote
1630  * @param integer $uriid URI Id used to store tags. 0 = create a new one; -1 = don't store tags for this post.
1631  * @return array item array
1632  */
1633 function twitter_createpost(App $a, $uid, $post, array $self, $create_user, $only_existing_contact, $noquote, int $uriid = 0)
1634 {
1635         $postarray = [];
1636         $postarray['network'] = Protocol::TWITTER;
1637         $postarray['uid'] = $uid;
1638         $postarray['wall'] = 0;
1639         $postarray['uri'] = "twitter::" . $post->id_str;
1640         $postarray['protocol'] = Conversation::PARCEL_TWITTER;
1641         $postarray['source'] = json_encode($post);
1642         $postarray['direction'] = Conversation::PULL;
1643
1644         if (empty($uriid)) {
1645                 $uriid = $postarray['uri-id'] = ItemURI::insert(['uri' => $postarray['uri']]);
1646         }
1647
1648         // Don't import our own comments
1649         if (Post::exists(['extid' => $postarray['uri'], 'uid' => $uid])) {
1650                 Logger::info('Item found', ['extid' => $postarray['uri']]);
1651                 return [];
1652         }
1653
1654         $contactid = 0;
1655
1656         if ($post->in_reply_to_status_id_str != "") {
1657                 $thr_parent = "twitter::" . $post->in_reply_to_status_id_str;
1658
1659                 $item = Post::selectFirst(['uri'], ['uri' => $thr_parent, 'uid' => $uid]);
1660                 if (!DBA::isResult($item)) {
1661                         $item = Post::selectFirst(['uri'], ['extid' => $thr_parent, 'uid' => $uid]);
1662                 }
1663
1664                 if (DBA::isResult($item)) {
1665                         $postarray['thr-parent'] = $item['uri'];
1666                         $postarray['object-type'] = Activity\ObjectType::COMMENT;
1667                 } else {
1668                         $postarray['object-type'] = Activity\ObjectType::NOTE;
1669                 }
1670
1671                 // Is it me?
1672                 $own_id = DI::pConfig()->get($uid, 'twitter', 'own_id');
1673
1674                 if ($post->user->id_str == $own_id) {
1675                         $r = q("SELECT * FROM `contact` WHERE `self` = 1 AND `uid` = %d LIMIT 1",
1676                                 intval($uid));
1677
1678                         if (DBA::isResult($r)) {
1679                                 $contactid = $r[0]["id"];
1680
1681                                 $postarray['owner-name']   = $r[0]["name"];
1682                                 $postarray['owner-link']   = $r[0]["url"];
1683                                 $postarray['owner-avatar'] = $r[0]["photo"];
1684                         } else {
1685                                 Logger::error('No self contact found', ['uid' => $uid]);
1686                                 return [];
1687                         }
1688                 }
1689                 // Don't create accounts of people who just comment something
1690                 $create_user = false;
1691         } else {
1692                 $postarray['object-type'] = Activity\ObjectType::NOTE;
1693         }
1694
1695         if ($contactid == 0) {
1696                 $contactid = twitter_fetch_contact($uid, $post->user, $create_user);
1697
1698                 $postarray['owner-name'] = $post->user->name;
1699                 $postarray['owner-link'] = "https://twitter.com/" . $post->user->screen_name;
1700                 $postarray['owner-avatar'] = twitter_fix_avatar($post->user->profile_image_url_https);
1701         }
1702
1703         if (($contactid == 0) && !$only_existing_contact) {
1704                 $contactid = $self['id'];
1705         } elseif ($contactid <= 0) {
1706                 Logger::info('Contact ID is zero or less than zero.');
1707                 return [];
1708         }
1709
1710         $postarray['contact-id'] = $contactid;
1711
1712         $postarray['verb'] = Activity::POST;
1713         $postarray['author-name'] = $postarray['owner-name'];
1714         $postarray['author-link'] = $postarray['owner-link'];
1715         $postarray['author-avatar'] = $postarray['owner-avatar'];
1716         $postarray['plink'] = "https://twitter.com/" . $post->user->screen_name . "/status/" . $post->id_str;
1717         $postarray['app'] = strip_tags($post->source);
1718
1719         if ($post->user->protected) {
1720                 $postarray['private'] = 1;
1721                 $postarray['allow_cid'] = '<' . $self['id'] . '>';
1722         } else {
1723                 $postarray['private'] = 0;
1724                 $postarray['allow_cid'] = '';
1725         }
1726
1727         if (!empty($post->full_text)) {
1728                 $postarray['body'] = $post->full_text;
1729         } else {
1730                 $postarray['body'] = $post->text;
1731         }
1732
1733         // When the post contains links then use the correct object type
1734         if (count($post->entities->urls) > 0) {
1735                 $postarray['object-type'] = Activity\ObjectType::BOOKMARK;
1736         }
1737
1738         // Search for media links
1739         $picture = twitter_media_entities($post, $postarray);
1740
1741         $converted = twitter_expand_entities($postarray['body'], $post, $picture);
1742         $postarray['body'] = $converted['body'];
1743         $postarray['created'] = DateTimeFormat::utc($post->created_at);
1744         $postarray['edited'] = DateTimeFormat::utc($post->created_at);
1745
1746         if ($uriid > 0) {
1747                 twitter_store_tags($uriid, $converted['taglist']);
1748                 twitter_store_attachments($uriid, $post);
1749         }
1750
1751         if (!empty($post->place->name)) {
1752                 $postarray["location"] = $post->place->name;
1753         }
1754         if (!empty($post->place->full_name)) {
1755                 $postarray["location"] = $post->place->full_name;
1756         }
1757         if (!empty($post->geo->coordinates)) {
1758                 $postarray["coord"] = $post->geo->coordinates[0] . " " . $post->geo->coordinates[1];
1759         }
1760         if (!empty($post->coordinates->coordinates)) {
1761                 $postarray["coord"] = $post->coordinates->coordinates[1] . " " . $post->coordinates->coordinates[0];
1762         }
1763         if (!empty($post->retweeted_status)) {
1764                 $retweet = twitter_createpost($a, $uid, $post->retweeted_status, $self, false, false, $noquote);
1765
1766                 if (empty($retweet['body'])) {
1767                         return [];
1768                 }
1769
1770                 if (!$noquote) {
1771                         // Store the original tweet
1772                         Item::insert($retweet);
1773
1774                         // CHange the other post into a reshare activity
1775                         $postarray['verb'] = Activity::ANNOUNCE;
1776                         $postarray['gravity'] = GRAVITY_ACTIVITY;
1777                         $postarray['object-type'] = Activity\ObjectType::NOTE;
1778
1779                         $postarray['thr-parent'] = $retweet['uri'];
1780                 } else {
1781                         $retweet['source'] = $postarray['source'];
1782                         $retweet['direction'] = $postarray['direction'];
1783                         $retweet['private'] = $postarray['private'];
1784                         $retweet['allow_cid'] = $postarray['allow_cid'];
1785                         $retweet['contact-id'] = $postarray['contact-id'];
1786                         $retweet['owner-name'] = $postarray['owner-name'];
1787                         $retweet['owner-link'] = $postarray['owner-link'];
1788                         $retweet['owner-avatar'] = $postarray['owner-avatar'];
1789
1790                         $postarray = $retweet;
1791                 }
1792         }
1793
1794         if (!empty($post->quoted_status)) {
1795                 if ($noquote) {
1796                         // To avoid recursive share blocks we just provide the link to avoid removing quote context.
1797                         $postarray['body'] .= "\n\nhttps://twitter.com/" . $post->quoted_status->user->screen_name . "/status/" . $post->quoted_status->id_str;
1798                 } else {
1799                         $quoted = twitter_createpost($a, 0, $post->quoted_status, $self, false, false, true);
1800                         if (!empty($quoted['body'])) {
1801                                 Item::insert($quoted);
1802                                 $post = Post::selectFirst(['guid', 'uri-id'], ['uri' => $quoted['uri'], 'uid' => 0]);
1803                                 Logger::info('Stored quoted post', ['uid' => $uid, 'uri-id' => $uriid, 'post' => $post]);
1804
1805                                 $postarray['body'] .= "\n" . BBCode::getShareOpeningTag(
1806                                                 $quoted['author-name'],
1807                                                 $quoted['author-link'],
1808                                                 $quoted['author-avatar'],
1809                                                 $quoted['plink'],
1810                                                 $quoted['created'],
1811                                                 $post['guid'] ?? ''
1812                                         );
1813
1814                                 $postarray['body'] .= $quoted['body'] . '[/share]';
1815                         } else {
1816                                 // Quoted post author is blocked/ignored, so we just provide the link to avoid removing quote context.
1817                                 $postarray['body'] .= "\n\nhttps://twitter.com/" . $post->quoted_status->user->screen_name . "/status/" . $post->quoted_status->id_str;
1818                         }
1819                 }
1820         }
1821
1822         return $postarray;
1823 }
1824
1825 /**
1826  * Store tags and mentions
1827  *
1828  * @param integer $uriid
1829  * @param array $taglist
1830  */
1831 function twitter_store_tags(int $uriid, array $taglist)
1832 {
1833         foreach ($taglist as $tag) {
1834                 Tag::storeByHash($uriid, $tag[0], $tag[1], $tag[2]);
1835         }
1836 }
1837
1838 function twitter_fetchparentposts(App $a, $uid, $post, TwitterOAuth $connection, array $self)
1839 {
1840         Logger::info('Fetching parent posts', ['user' => $uid, 'post' => $post->id_str]);
1841
1842         $posts = [];
1843
1844         while (!empty($post->in_reply_to_status_id_str)) {
1845                 try {
1846                         $post = twitter_statuses_show($post->in_reply_to_status_id_str, $connection);
1847                 } catch (TwitterOAuthException $e) {
1848                         Logger::warning('Error fetching parent post', ['uid' => $uid, 'post' => $post->id_str, 'message' => $e->getMessage()]);
1849                         break;
1850                 }
1851
1852                 if (empty($post)) {
1853                         Logger::info("twitter_fetchparentposts: Can't fetch post");
1854                         break;
1855                 }
1856
1857                 if (empty($post->id_str)) {
1858                         Logger::info("twitter_fetchparentposts: This is not a post", ['post' => $post]);
1859                         break;
1860                 }
1861
1862                 if (Post::exists(['uri' => 'twitter::' . $post->id_str, 'uid' => $uid])) {
1863                         break;
1864                 }
1865
1866                 $posts[] = $post;
1867         }
1868
1869         Logger::log("twitter_fetchparentposts: Fetching " . count($posts) . " parents", Logger::DEBUG);
1870
1871         $posts = array_reverse($posts);
1872
1873         if (!empty($posts)) {
1874                 foreach ($posts as $post) {
1875                         $postarray = twitter_createpost($a, $uid, $post, $self, false, !DI::pConfig()->get($uid, 'twitter', 'create_user'), false);
1876
1877                         if (empty($postarray['body'])) {
1878                                 continue;
1879                         }
1880
1881                         $item = Item::insert($postarray);
1882
1883                         $postarray["id"] = $item;
1884
1885                         Logger::log('twitter_fetchparentpost: User ' . $self["nick"] . ' posted parent timeline item ' . $item);
1886                 }
1887         }
1888 }
1889
1890 function twitter_fetchhometimeline(App $a, $uid)
1891 {
1892         $ckey    = DI::config()->get('twitter', 'consumerkey');
1893         $csecret = DI::config()->get('twitter', 'consumersecret');
1894         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
1895         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
1896         $create_user = DI::pConfig()->get($uid, 'twitter', 'create_user');
1897         $mirror_posts = DI::pConfig()->get($uid, 'twitter', 'mirror_posts');
1898
1899         Logger::info('Fetching timeline', ['uid' => $uid]);
1900
1901         $application_name = DI::config()->get('twitter', 'application_name');
1902
1903         if ($application_name == "") {
1904                 $application_name = DI::baseUrl()->getHostname();
1905         }
1906
1907         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
1908
1909         try {
1910                 $own_contact = twitter_fetch_own_contact($a, $uid);
1911         } catch (TwitterOAuthException $e) {
1912                 Logger::warning('Error fetching own contact', ['uid' => $uid, 'message' => $e->getMessage()]);
1913                 return;
1914         }
1915
1916         $r = q("SELECT * FROM `contact` WHERE `id` = %d AND `uid` = %d LIMIT 1",
1917                 intval($own_contact),
1918                 intval($uid));
1919
1920         if (DBA::isResult($r)) {
1921                 $own_id = $r[0]["nick"];
1922         } else {
1923                 Logger::warning('Own twitter contact not found', ['uid' => $uid]);
1924                 return;
1925         }
1926
1927         $self = User::getOwnerDataById($uid);
1928         if ($self === false) {
1929                 Logger::warning('Own contact not found', ['uid' => $uid]);
1930                 return;
1931         }
1932
1933         $parameters = ["exclude_replies" => false, "trim_user" => false, "contributor_details" => true, "include_rts" => true, "tweet_mode" => "extended", "include_ext_alt_text" => true];
1934         //$parameters["count"] = 200;
1935         // Fetching timeline
1936         $lastid = DI::pConfig()->get($uid, 'twitter', 'lasthometimelineid');
1937
1938         $first_time = ($lastid == "");
1939
1940         if ($lastid != "") {
1941                 $parameters["since_id"] = $lastid;
1942         }
1943
1944         try {
1945                 $items = $connection->get('statuses/home_timeline', $parameters);
1946         } catch (TwitterOAuthException $e) {
1947                 Logger::warning('Error fetching home timeline', ['uid' => $uid, 'message' => $e->getMessage()]);
1948                 return;
1949         }
1950
1951         if (!is_array($items)) {
1952                 Logger::warning('home timeline is no array', ['items' => $items]);
1953                 return;
1954         }
1955
1956         if (empty($items)) {
1957                 Logger::notice('No new timeline content', ['uid' => $uid]);
1958                 return;
1959         }
1960
1961         $posts = array_reverse($items);
1962
1963         Logger::notice('Processing timeline', ['lastid' => $lastid, 'uid' => $uid, 'count' => count($posts)]);
1964
1965         if (count($posts)) {
1966                 foreach ($posts as $post) {
1967                         if ($post->id_str > $lastid) {
1968                                 $lastid = $post->id_str;
1969                                 DI::pConfig()->set($uid, 'twitter', 'lasthometimelineid', $lastid);
1970                         }
1971
1972                         if ($first_time) {
1973                                 continue;
1974                         }
1975
1976                         if (stristr($post->source, $application_name) && $post->user->screen_name == $own_id) {
1977                                 Logger::info("Skip previously sent post");
1978                                 continue;
1979                         }
1980
1981                         if ($mirror_posts && $post->user->screen_name == $own_id && $post->in_reply_to_status_id_str == "") {
1982                                 Logger::info("Skip post that will be mirrored");
1983                                 continue;
1984                         }
1985
1986                         if ($post->in_reply_to_status_id_str != "") {
1987                                 twitter_fetchparentposts($a, $uid, $post, $connection, $self);
1988                         }
1989
1990                         Logger::log('Preparing post ' . $post->id_str . ' for user ' . $uid, Logger::DEBUG);
1991
1992                         $postarray = twitter_createpost($a, $uid, $post, $self, $create_user, true, false);
1993
1994                         if (empty($postarray['body']) || trim($postarray['body']) == "") {
1995                                 Logger::log('Empty body for post ' . $post->id_str . ' and user ' . $uid, Logger::DEBUG);
1996                                 continue;
1997                         }
1998
1999                         $notify = false;
2000
2001                         if (empty($postarray['thr-parent'])) {
2002                                 $contact = DBA::selectFirst('contact', [], ['id' => $postarray['contact-id'], 'self' => false]);
2003                                 if (DBA::isResult($contact) && Item::isRemoteSelf($contact, $postarray)) {
2004                                         $notify = PRIORITY_MEDIUM;
2005                                 }
2006                         }
2007
2008                         $item = Item::insert($postarray, $notify);
2009                         $postarray["id"] = $item;
2010
2011                         Logger::log('User ' . $uid . ' posted home timeline item ' . $item);
2012                 }
2013         }
2014         DI::pConfig()->set($uid, 'twitter', 'lasthometimelineid', $lastid);
2015
2016         Logger::log('Last timeline ID for user ' . $uid . ' is now ' . $lastid, Logger::DEBUG);
2017
2018         // Fetching mentions
2019         $lastid = DI::pConfig()->get($uid, 'twitter', 'lastmentionid');
2020
2021         $first_time = ($lastid == "");
2022
2023         if ($lastid != "") {
2024                 $parameters["since_id"] = $lastid;
2025         }
2026
2027         try {
2028                 $items = $connection->get('statuses/mentions_timeline', $parameters);
2029         } catch (TwitterOAuthException $e) {
2030                 Logger::warning('Error fetching mentions', ['uid' => $uid, 'message' => $e->getMessage()]);
2031                 return;
2032         }
2033
2034         if (!is_array($items)) {
2035                 Logger::warning("mentions are no arrays", ['items' => $items]);
2036                 return;
2037         }
2038
2039         $posts = array_reverse($items);
2040
2041         Logger::log("Fetching mentions for user " . $uid . " " . sizeof($posts) . " items", Logger::DEBUG);
2042
2043         if (count($posts)) {
2044                 foreach ($posts as $post) {
2045                         if ($post->id_str > $lastid) {
2046                                 $lastid = $post->id_str;
2047                         }
2048
2049                         if ($first_time) {
2050                                 continue;
2051                         }
2052
2053                         if ($post->in_reply_to_status_id_str != "") {
2054                                 twitter_fetchparentposts($a, $uid, $post, $connection, $self);
2055                         }
2056
2057                         $postarray = twitter_createpost($a, $uid, $post, $self, false, !$create_user, false);
2058
2059                         if (empty($postarray['body'])) {
2060                                 continue;
2061                         }
2062
2063                         $item = Item::insert($postarray);
2064
2065                         Logger::log('User ' . $uid . ' posted mention timeline item ' . $item);
2066                 }
2067         }
2068
2069         DI::pConfig()->set($uid, 'twitter', 'lastmentionid', $lastid);
2070
2071         Logger::log('Last mentions ID for user ' . $uid . ' is now ' . $lastid, Logger::DEBUG);
2072 }
2073
2074 function twitter_fetch_own_contact(App $a, $uid)
2075 {
2076         $ckey    = DI::config()->get('twitter', 'consumerkey');
2077         $csecret = DI::config()->get('twitter', 'consumersecret');
2078         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
2079         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
2080
2081         $own_id = DI::pConfig()->get($uid, 'twitter', 'own_id');
2082
2083         $contact_id = 0;
2084
2085         if ($own_id == "") {
2086                 $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
2087
2088                 // Fetching user data
2089                 // get() may throw TwitterOAuthException, but we will catch it later
2090                 $user = $connection->get('account/verify_credentials');
2091                 if (empty($user->id_str)) {
2092                         return false;
2093                 }
2094
2095                 DI::pConfig()->set($uid, 'twitter', 'own_id', $user->id_str);
2096
2097                 $contact_id = twitter_fetch_contact($uid, $user, true);
2098         } else {
2099                 $r = q("SELECT * FROM `contact` WHERE `uid` = %d AND `alias` = '%s' LIMIT 1",
2100                         intval($uid),
2101                         DBA::escape("twitter::" . $own_id));
2102                 if (DBA::isResult($r)) {
2103                         $contact_id = $r[0]["id"];
2104                 } else {
2105                         DI::pConfig()->delete($uid, 'twitter', 'own_id');
2106                 }
2107         }
2108
2109         return $contact_id;
2110 }
2111
2112 function twitter_is_retweet(App $a, $uid, $body)
2113 {
2114         $body = trim($body);
2115
2116         // Skip if it isn't a pure repeated messages
2117         // Does it start with a share?
2118         if (strpos($body, "[share") > 0) {
2119                 return false;
2120         }
2121
2122         // Does it end with a share?
2123         if (strlen($body) > (strrpos($body, "[/share]") + 8)) {
2124                 return false;
2125         }
2126
2127         $attributes = preg_replace("/\[share(.*?)\]\s?(.*?)\s?\[\/share\]\s?/ism", "$1", $body);
2128         // Skip if there is no shared message in there
2129         if ($body == $attributes) {
2130                 return false;
2131         }
2132
2133         $link = "";
2134         preg_match("/link='(.*?)'/ism", $attributes, $matches);
2135         if (!empty($matches[1])) {
2136                 $link = $matches[1];
2137         }
2138
2139         preg_match('/link="(.*?)"/ism', $attributes, $matches);
2140         if (!empty($matches[1])) {
2141                 $link = $matches[1];
2142         }
2143
2144         $id = preg_replace("=https?://twitter.com/(.*)/status/(.*)=ism", "$2", $link);
2145         if ($id == $link) {
2146                 return false;
2147         }
2148         return twitter_retweet($uid, $id);
2149 }
2150
2151 function twitter_retweet(int $uid, int $id, int $item_id = 0)
2152 {
2153         Logger::info('Retweeting', ['user' => $uid, 'id' => $id]);
2154
2155         $ckey    = DI::config()->get('twitter', 'consumerkey');
2156         $csecret = DI::config()->get('twitter', 'consumersecret');
2157         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
2158         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
2159
2160         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
2161         $result = $connection->post('statuses/retweet/' . $id);
2162
2163         Logger::info('Retweeted', ['user' => $uid, 'id' => $id, 'result' => $result]);
2164
2165         if (!empty($item_id) && !empty($result->id_str)) {
2166                 Logger::notice('Update extid', ['id' => $item_id, 'extid' => $result->id_str]);
2167                 Item::update(['extid' => "twitter::" . $result->id_str], ['id' => $item_id]);
2168         }
2169
2170         return !isset($result->errors);
2171 }
2172
2173 function twitter_update_mentions($body)
2174 {
2175         $URLSearchString = "^\[\]";
2176         $return = preg_replace_callback(
2177                 "/@\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
2178                 function ($matches) {
2179                         if (strpos($matches[1], 'twitter.com')) {
2180                                 $return = '@' . substr($matches[1], strrpos($matches[1], '/') + 1);
2181                         } else {
2182                                 $return = $matches[2] . ' (' . $matches[1] . ')';
2183                         }
2184
2185                         return $return;
2186                 },
2187                 $body
2188         );
2189
2190         return $return;
2191 }
2192
2193 function twitter_convert_share(array $attributes, array $author_contact, $content, $is_quote_share)
2194 {
2195         if (empty($author_contact)) {
2196                 return $content . "\n\n" . $attributes['link'];
2197         }
2198
2199         if (!empty($author_contact['network']) && ($author_contact['network'] == Protocol::TWITTER)) {
2200                 $mention = '@' . $author_contact['nick'];
2201         } else {
2202                 $mention = $author_contact['addr'];
2203         }
2204
2205         return ($is_quote_share ? "\n\n" : '' ) . 'RT ' . $mention . ': ' . $content . "\n\n" . $attributes['link'];
2206 }