]> git.mxchange.org Git - friendica-addons.git/blob - twitter/twitter.php
Merge pull request #1099 from nupplaphil/feat/check
[friendica-addons.git] / twitter / twitter.php
1 <?php
2 /**
3  * Name: Twitter Connector
4  * Description: Bidirectional (posting, relaying and reading) connector for Twitter.
5  * Version: 1.1.0
6  * Author: Tobias Diekershoff <https://f.diekershoff.de/profile/tobias>
7  * Author: Michael Vogel <https://pirati.ca/profile/heluecht>
8  * Maintainer: Hypolite Petovan <https://friendica.mrpetovan.com/profile/hypolite>
9  *
10  * Copyright (c) 2011-2013 Tobias Diekershoff, Michael Vogel, Hypolite Petovan
11  * All rights reserved.
12  *
13  * Redistribution and use in source and binary forms, with or without
14  * modification, are permitted provided that the following conditions are met:
15  *    * Redistributions of source code must retain the above copyright notice,
16  *     this list of conditions and the following disclaimer.
17  *    * Redistributions in binary form must reproduce the above
18  *    * copyright notice, this list of conditions and the following disclaimer in
19  *      the documentation and/or other materials provided with the distribution.
20  *    * Neither the name of the <organization> nor the names of its contributors
21  *      may be used to endorse or promote products derived from this software
22  *      without specific prior written permission.
23  *
24  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS" AND
25  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
26  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
27  * DISCLAIMED. IN NO EVENT SHALL <COPYRIGHT HOLDER> BE LIABLE FOR ANY DIRECT,
28  * INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING,
29  * BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
30  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
31  * LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE
32  * OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF
33  * ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
34  *
35  */
36 /*   Twitter Addon for Friendica
37  *
38  *   Author: Tobias Diekershoff
39  *           tobias.diekershoff@gmx.net
40  *
41  *   License:3-clause BSD license
42  *
43  *   Configuration:
44  *     To use this addon you need a OAuth Consumer key pair (key & secret)
45  *     you can get it from Twitter at https://twitter.com/apps
46  *
47  *     Register your Friendica site as "Client" application with "Read & Write" access
48  *     we do not need "Twitter as login". When you've registered the app you get the
49  *     OAuth Consumer key and secret pair for your application/site.
50  *
51  *     Add this key pair to your global config/addon.config.php or use the admin panel.
52  *
53  *      'twitter' => [
54  *                  'consumerkey' => '',
55  *              'consumersecret' => '',
56  *      ],
57  *
58  *     To activate the addon itself add it to the system.addon
59  *     setting. After this, your user can configure their Twitter account settings
60  *     from "Settings -> Addon Settings".
61  *
62  *     Requirements: PHP5, curl
63  */
64
65 use Abraham\TwitterOAuth\TwitterOAuth;
66 use Abraham\TwitterOAuth\TwitterOAuthException;
67 use Codebird\Codebird;
68 use Friendica\App;
69 use Friendica\Content\OEmbed;
70 use Friendica\Content\PageInfo;
71 use Friendica\Content\Text\BBCode;
72 use Friendica\Content\Text\Plaintext;
73 use Friendica\Core\Hook;
74 use Friendica\Core\Logger;
75 use Friendica\Core\Protocol;
76 use Friendica\Core\Renderer;
77 use Friendica\Core\Worker;
78 use Friendica\Database\DBA;
79 use Friendica\DI;
80 use Friendica\Model\Contact;
81 use Friendica\Model\Conversation;
82 use Friendica\Model\Group;
83 use Friendica\Model\Item;
84 use Friendica\Model\ItemURI;
85 use Friendica\Model\Post;
86 use Friendica\Model\Tag;
87 use Friendica\Model\User;
88 use Friendica\Protocol\Activity;
89 use Friendica\Util\ConfigFileLoader;
90 use Friendica\Util\DateTimeFormat;
91 use Friendica\Util\Images;
92 use Friendica\Util\Strings;
93
94 require_once __DIR__ . DIRECTORY_SEPARATOR . 'vendor' . DIRECTORY_SEPARATOR . 'autoload.php';
95
96 define('TWITTER_DEFAULT_POLL_INTERVAL', 5); // given in minutes
97
98 function twitter_install()
99 {
100         //  we need some hooks, for the configuration and for sending tweets
101         Hook::register('load_config'            , __FILE__, 'twitter_load_config');
102         Hook::register('connector_settings'     , __FILE__, 'twitter_settings');
103         Hook::register('connector_settings_post', __FILE__, 'twitter_settings_post');
104         Hook::register('hook_fork'              , __FILE__, 'twitter_hook_fork');
105         Hook::register('post_local'             , __FILE__, 'twitter_post_local');
106         Hook::register('notifier_normal'        , __FILE__, 'twitter_post_hook');
107         Hook::register('jot_networks'           , __FILE__, 'twitter_jot_nets');
108         Hook::register('cron'                   , __FILE__, 'twitter_cron');
109         Hook::register('follow'                 , __FILE__, 'twitter_follow');
110         Hook::register('expire'                 , __FILE__, 'twitter_expire');
111         Hook::register('prepare_body'           , __FILE__, 'twitter_prepare_body');
112         Hook::register('check_item_notification', __FILE__, 'twitter_check_item_notification');
113         Hook::register('probe_detect'           , __FILE__, 'twitter_probe_detect');
114         Hook::register('parse_link'             , __FILE__, 'twitter_parse_link');
115         Logger::info("installed twitter");
116 }
117
118 // Hook functions
119
120 function twitter_load_config(App $a, ConfigFileLoader $loader)
121 {
122         $a->getConfigCache()->load($loader->loadAddonConfig('twitter'));
123 }
124
125 function twitter_check_item_notification(App $a, array &$notification_data)
126 {
127         $own_id = DI::pConfig()->get($notification_data["uid"], 'twitter', 'own_id');
128
129         $own_user = q("SELECT `url` FROM `contact` WHERE `uid` = %d AND `alias` = '%s' LIMIT 1",
130                         intval($notification_data["uid"]),
131                         DBA::escape("twitter::".$own_id)
132         );
133
134         if ($own_user) {
135                 $notification_data["profiles"][] = $own_user[0]["url"];
136         }
137 }
138
139 function twitter_follow(App $a, array &$contact)
140 {
141         Logger::info('Check if contact is twitter contact', ['url' => $contact["url"]]);
142
143         if (!strstr($contact["url"], "://twitter.com") && !strstr($contact["url"], "@twitter.com")) {
144                 return;
145         }
146
147         // contact seems to be a twitter contact, so continue
148         $nickname = preg_replace("=https?://twitter.com/(.*)=ism", "$1", $contact["url"]);
149         $nickname = str_replace("@twitter.com", "", $nickname);
150
151         $uid = $a->user["uid"];
152
153         $ckey = DI::config()->get('twitter', 'consumerkey');
154         $csecret = DI::config()->get('twitter', 'consumersecret');
155         $otoken = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
156         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
157
158         // If the addon is not configured (general or for this user) quit here
159         if (empty($ckey) || empty($csecret) || empty($otoken) || empty($osecret)) {
160                 $contact = false;
161                 return;
162         }
163
164         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
165         $connection->post('friendships/create', ['screen_name' => $nickname]);
166
167         $user = twitter_fetchuser($nickname);
168
169         $contact_id = twitter_fetch_contact($uid, $user, true);
170
171         $contact = Contact::getById($contact_id, ['name', 'nick', 'url', 'addr', 'batch', 'notify', 'poll', 'request', 'confirm', 'poco', 'photo', 'priority', 'network', 'alias', 'pubkey']);
172
173         if (DBA::isResult($contact)) {
174                 $contact["contact"] = $contact;
175         }
176 }
177
178 function twitter_jot_nets(App $a, array &$jotnets_fields)
179 {
180         if (!local_user()) {
181                 return;
182         }
183
184         if (DI::pConfig()->get(local_user(), 'twitter', 'post')) {
185                 $jotnets_fields[] = [
186                         'type' => 'checkbox',
187                         'field' => [
188                                 'twitter_enable',
189                                 DI::l10n()->t('Post to Twitter'),
190                                 DI::pConfig()->get(local_user(), 'twitter', 'post_by_default')
191                         ]
192                 ];
193         }
194 }
195
196
197 function twitter_settings_post(App $a)
198 {
199         if (!local_user()) {
200                 return;
201         }
202         // don't check twitter settings if twitter submit button is not clicked
203         if (empty($_POST['twitter-disconnect']) && empty($_POST['twitter-submit'])) {
204                 return;
205         }
206
207         if (!empty($_POST['twitter-disconnect'])) {
208                 /*               * *
209                  * if the twitter-disconnect checkbox is set, clear the OAuth key/secret pair
210                  * from the user configuration
211                  */
212                 DI::pConfig()->delete(local_user(), 'twitter', 'consumerkey');
213                 DI::pConfig()->delete(local_user(), 'twitter', 'consumersecret');
214                 DI::pConfig()->delete(local_user(), 'twitter', 'oauthtoken');
215                 DI::pConfig()->delete(local_user(), 'twitter', 'oauthsecret');
216                 DI::pConfig()->delete(local_user(), 'twitter', 'post');
217                 DI::pConfig()->delete(local_user(), 'twitter', 'post_by_default');
218                 DI::pConfig()->delete(local_user(), 'twitter', 'lastid');
219                 DI::pConfig()->delete(local_user(), 'twitter', 'mirror_posts');
220                 DI::pConfig()->delete(local_user(), 'twitter', 'import');
221                 DI::pConfig()->delete(local_user(), 'twitter', 'create_user');
222                 DI::pConfig()->delete(local_user(), 'twitter', 'own_id');
223         } else {
224                 if (isset($_POST['twitter-pin'])) {
225                         //  if the user supplied us with a PIN from Twitter, let the magic of OAuth happen
226                         Logger::notice('got a Twitter PIN');
227                         $ckey    = DI::config()->get('twitter', 'consumerkey');
228                         $csecret = DI::config()->get('twitter', 'consumersecret');
229                         //  the token and secret for which the PIN was generated were hidden in the settings
230                         //  form as token and token2, we need a new connection to Twitter using these token
231                         //  and secret to request a Access Token with the PIN
232                         try {
233                                 if (empty($_POST['twitter-pin'])) {
234                                         throw new Exception(DI::l10n()->t('You submitted an empty PIN, please Sign In with Twitter again to get a new one.'));
235                                 }
236
237                                 $connection = new TwitterOAuth($ckey, $csecret, $_POST['twitter-token'], $_POST['twitter-token2']);
238                                 $token = $connection->oauth("oauth/access_token", ["oauth_verifier" => $_POST['twitter-pin']]);
239                                 //  ok, now that we have the Access Token, save them in the user config
240                                 DI::pConfig()->set(local_user(), 'twitter', 'oauthtoken', $token['oauth_token']);
241                                 DI::pConfig()->set(local_user(), 'twitter', 'oauthsecret', $token['oauth_token_secret']);
242                                 DI::pConfig()->set(local_user(), 'twitter', 'post', 1);
243                         } catch(Exception $e) {
244                                 notice($e->getMessage());
245                         } catch(TwitterOAuthException $e) {
246                                 notice($e->getMessage());
247                         }
248                         //  reload the Addon Settings page, if we don't do it see Bug #42
249                         DI::baseUrl()->redirect('settings/connectors');
250                 } else {
251                         //  if no PIN is supplied in the POST variables, the user has changed the setting
252                         //  to post a tweet for every new __public__ posting to the wall
253                         DI::pConfig()->set(local_user(), 'twitter', 'post', intval($_POST['twitter-enable']));
254                         DI::pConfig()->set(local_user(), 'twitter', 'post_by_default', intval($_POST['twitter-default']));
255                         DI::pConfig()->set(local_user(), 'twitter', 'mirror_posts', intval($_POST['twitter-mirror']));
256                         DI::pConfig()->set(local_user(), 'twitter', 'import', intval($_POST['twitter-import']));
257                         DI::pConfig()->set(local_user(), 'twitter', 'create_user', intval($_POST['twitter-create_user']));
258
259                         if (!intval($_POST['twitter-mirror'])) {
260                                 DI::pConfig()->delete(local_user(), 'twitter', 'lastid');
261                         }
262                 }
263         }
264 }
265
266 function twitter_settings(App $a, &$s)
267 {
268         if (!local_user()) {
269                 return;
270         }
271         DI::page()['htmlhead'] .= '<link rel="stylesheet"  type="text/css" href="' . DI::baseUrl()->get() . '/addon/twitter/twitter.css' . '" media="all" />' . "\r\n";
272         /*       * *
273          * 1) Check that we have global consumer key & secret
274          * 2) If no OAuthtoken & stuff is present, generate button to get some
275          * 3) Checkbox for "Send public notices (280 chars only)
276          */
277         $ckey    = DI::config()->get('twitter', 'consumerkey');
278         $csecret = DI::config()->get('twitter', 'consumersecret');
279         $otoken  = DI::pConfig()->get(local_user(), 'twitter', 'oauthtoken');
280         $osecret = DI::pConfig()->get(local_user(), 'twitter', 'oauthsecret');
281
282         $enabled            = intval(DI::pConfig()->get(local_user(), 'twitter', 'post'));
283         $defenabled         = intval(DI::pConfig()->get(local_user(), 'twitter', 'post_by_default'));
284         $mirrorenabled      = intval(DI::pConfig()->get(local_user(), 'twitter', 'mirror_posts'));
285         $importenabled      = intval(DI::pConfig()->get(local_user(), 'twitter', 'import'));
286         $create_userenabled = intval(DI::pConfig()->get(local_user(), 'twitter', 'create_user'));
287
288         $css = (($enabled) ? '' : '-disabled');
289
290         $s .= '<span id="settings_twitter_inflated" class="settings-block fakelink" style="display: block;" onclick="openClose(\'settings_twitter_expanded\'); openClose(\'settings_twitter_inflated\');">';
291         $s .= '<img class="connector' . $css . '" src="images/twitter.png" /><h3 class="connector">' . DI::l10n()->t('Twitter Import/Export/Mirror') . '</h3>';
292         $s .= '</span>';
293         $s .= '<div id="settings_twitter_expanded" class="settings-block" style="display: none;">';
294         $s .= '<span class="fakelink" onclick="openClose(\'settings_twitter_expanded\'); openClose(\'settings_twitter_inflated\');">';
295         $s .= '<img class="connector' . $css . '" src="images/twitter.png" /><h3 class="connector">' . DI::l10n()->t('Twitter Import/Export/Mirror') . '</h3>';
296         $s .= '</span>';
297
298         if ((!$ckey) && (!$csecret)) {
299                 /* no global consumer keys
300                  * display warning and skip personal config
301                  */
302                 $s .= '<p>' . DI::l10n()->t('No consumer key pair for Twitter found. Please contact your site administrator.') . '</p>';
303         } else {
304                 // ok we have a consumer key pair now look into the OAuth stuff
305                 if ((!$otoken) && (!$osecret)) {
306                         /* the user has not yet connected the account to twitter...
307                          * get a temporary OAuth key/secret pair and display a button with
308                          * which the user can request a PIN to connect the account to a
309                          * account at Twitter.
310                          */
311                         $connection = new TwitterOAuth($ckey, $csecret);
312                         try {
313                                 $result = $connection->oauth('oauth/request_token', ['oauth_callback' => 'oob']);
314                                 $s .= '<p>' . DI::l10n()->t('At this Friendica instance the Twitter addon was enabled but you have not yet connected your account to your Twitter account. To do so click the button below to get a PIN from Twitter which you have to copy into the input box below and submit the form. Only your <strong>public</strong> posts will be posted to Twitter.') . '</p>';
315                                 $s .= '<a href="' . $connection->url('oauth/authorize', ['oauth_token' => $result['oauth_token']]) . '" target="_twitter"><img src="addon/twitter/lighter.png" alt="' . DI::l10n()->t('Log in with Twitter') . '"></a>';
316                                 $s .= '<div id="twitter-pin-wrapper">';
317                                 $s .= '<label id="twitter-pin-label" for="twitter-pin">' . DI::l10n()->t('Copy the PIN from Twitter here') . '</label>';
318                                 $s .= '<input id="twitter-pin" type="text" name="twitter-pin" />';
319                                 $s .= '<input id="twitter-token" type="hidden" name="twitter-token" value="' . $result['oauth_token'] . '" />';
320                                 $s .= '<input id="twitter-token2" type="hidden" name="twitter-token2" value="' . $result['oauth_token_secret'] . '" />';
321                                 $s .= '</div><div class="clear"></div>';
322                                 $s .= '<div class="settings-submit-wrapper" ><input type="submit" name="twitter-submit" class="settings-submit" value="' . DI::l10n()->t('Save Settings') . '" /></div>';
323                         } catch (TwitterOAuthException $e) {
324                                 $s .= '<p>' . DI::l10n()->t('An error occured: ') . $e->getMessage() . '</p>';
325                         }
326                 } else {
327                         /*                       * *
328                          *  we have an OAuth key / secret pair for the user
329                          *  so let's give a chance to disable the postings to Twitter
330                          */
331                         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
332                         try {
333                                 $details = $connection->get('account/verify_credentials');
334
335                                 $field_checkbox = Renderer::getMarkupTemplate('field_checkbox.tpl');
336
337                                 if (property_exists($details, 'screen_name') &&
338                                     property_exists($details, 'description') &&
339                                     property_exists($details, 'profile_image_url')) {
340                                         $s .= '<div id="twitter-info" >
341                                         <p>' . DI::l10n()->t('Currently connected to: ') . '<a href="https://twitter.com/' . $details->screen_name . '" target="_twitter">' . $details->screen_name . '</a>
342                                                 <button type="submit" name="twitter-disconnect" value="1">' . DI::l10n()->t('Disconnect') . '</button>
343                                         </p>
344                                         <p id="twitter-info-block">
345                                                 <a href="https://twitter.com/' . $details->screen_name . '" target="_twitter"><img id="twitter-avatar" src="' . $details->profile_image_url . '" /></a>
346                                                 <em>' . $details->description . '</em>
347                                         </p>
348                                 </div>';
349                                 } else {
350                                         $s .= '<div id="twitter-info" >
351                                         <p>Invalid Twitter info</p>
352                                         <button type="submit" name="twitter-disconnect" value="1">' . DI::l10n()->t('Disconnect') . '</button>
353                                         </div>';
354                                         Logger::notice('Invalid twitter info (verify credentials).', ['auth' => TwitterOAuth::class]);
355                                 }
356                                 $s .= '<div class="clear"></div>';
357
358                                 $s .= Renderer::replaceMacros($field_checkbox, [
359                                         '$field' => ['twitter-enable', DI::l10n()->t('Allow posting to Twitter'), $enabled, DI::l10n()->t('If enabled all your <strong>public</strong> postings can be posted to the associated Twitter account. You can choose to do so by default (here) or for every posting separately in the posting options when writing the entry.')]
360                                 ]);
361                                 if ($a->user['hidewall']) {
362                                         $s .= '<p>' . DI::l10n()->t('<strong>Note</strong>: Due to your privacy settings (<em>Hide your profile details from unknown viewers?</em>) the link potentially included in public postings relayed to Twitter will lead the visitor to a blank page informing the visitor that the access to your profile has been restricted.') . '</p>';
363                                 }
364                                 $s .= Renderer::replaceMacros($field_checkbox, [
365                                         '$field' => ['twitter-default', DI::l10n()->t('Send public postings to Twitter by default'), $defenabled, '']
366                                 ]);
367                                 $s .= Renderer::replaceMacros($field_checkbox, [
368                                         '$field' => ['twitter-mirror', DI::l10n()->t('Mirror all posts from twitter that are no replies'), $mirrorenabled, '']
369                                 ]);
370                                 $s .= Renderer::replaceMacros($field_checkbox, [
371                                         '$field' => ['twitter-import', DI::l10n()->t('Import the remote timeline'), $importenabled, '']
372                                 ]);
373                                 $s .= Renderer::replaceMacros($field_checkbox, [
374                                         '$field' => ['twitter-create_user', DI::l10n()->t('Automatically create contacts'), $create_userenabled, DI::l10n()->t('This will automatically create a contact in Friendica as soon as you receive a message from an existing contact via the Twitter network. If you do not enable this, you need to manually add those Twitter contacts in Friendica from whom you would like to see posts here. However if enabled, you cannot merely remove a twitter contact from the Friendica contact list, as it will recreate this contact when they post again.')]
375                                 ]);
376                                 $s .= '<div class="clear"></div>';
377                                 $s .= '<div class="settings-submit-wrapper" ><input type="submit" name="twitter-submit" class="settings-submit" value="' . DI::l10n()->t('Save Settings') . '" /></div>';
378                         } catch (TwitterOAuthException $e) {
379                                 $s .= '<p>' . DI::l10n()->t('An error occured: ') . $e->getMessage() . '</p>';
380                         }
381                 }
382         }
383         $s .= '</div><div class="clear"></div>';
384 }
385
386 function twitter_hook_fork(App $a, array &$b)
387 {
388         if ($b['name'] != 'notifier_normal') {
389                 return;
390         }
391
392         $post = $b['data'];
393
394         // Deleting and editing is not supported by the addon (deleting could, but isn't by now)
395         if ($post['deleted'] || ($post['created'] !== $post['edited'])) {
396                 $b['execute'] = false;
397                 return;
398         }
399
400         // if post comes from twitter don't send it back
401         if (($post['extid'] == Protocol::TWITTER) || twitter_get_id($post['extid'])) {
402                 $b['execute'] = false;
403                 return;
404         }
405
406         if (substr($post['app'], 0, 7) == 'Twitter') {
407                 $b['execute'] = false;
408                 return;
409         }
410
411         if (DI::pConfig()->get($post['uid'], 'twitter', 'import')) {
412                 // Don't fork if it isn't a reply to a twitter post
413                 if (($post['parent'] != $post['id']) && !Post::exists(['id' => $post['parent'], 'network' => Protocol::TWITTER])) {
414                         Logger::notice('No twitter parent found', ['item' => $post['id']]);
415                         $b['execute'] = false;
416                         return;
417                 }
418         } else {
419                 // Comments are never exported when we don't import the twitter timeline
420                 if (!strstr($post['postopts'], 'twitter') || ($post['parent'] != $post['id']) || $post['private']) {
421                         $b['execute'] = false;
422                         return;
423                 }
424         }
425 }
426
427 function twitter_post_local(App $a, array &$b)
428 {
429         if ($b['edit']) {
430                 return;
431         }
432
433         if (!local_user() || (local_user() != $b['uid'])) {
434                 return;
435         }
436
437         $twitter_post = intval(DI::pConfig()->get(local_user(), 'twitter', 'post'));
438         $twitter_enable = (($twitter_post && !empty($_REQUEST['twitter_enable'])) ? intval($_REQUEST['twitter_enable']) : 0);
439
440         // if API is used, default to the chosen settings
441         if ($b['api_source'] && intval(DI::pConfig()->get(local_user(), 'twitter', 'post_by_default'))) {
442                 $twitter_enable = 1;
443         }
444
445         if (!$twitter_enable) {
446                 return;
447         }
448
449         if (strlen($b['postopts'])) {
450                 $b['postopts'] .= ',';
451         }
452
453         $b['postopts'] .= 'twitter';
454 }
455
456 function twitter_probe_detect(App $a, array &$hookData)
457 {
458         // Don't overwrite an existing result
459         if ($hookData['result']) {
460                 return;
461         }
462
463         // Avoid a lookup for the wrong network
464         if (!in_array($hookData['network'], ['', Protocol::TWITTER])) {
465                 return;
466         }
467
468         if (preg_match('=([^@]+)@(?:mobile\.)?twitter\.com$=i', $hookData['uri'], $matches)) {
469                 $nick = $matches[1];
470         } elseif (preg_match('=^https?://(?:mobile\.)?twitter\.com/(.+)=i', $hookData['uri'], $matches)) {
471                 $nick = $matches[1];
472         } else {
473                 return;
474         }
475
476         $user = twitter_fetchuser($nick);
477
478         if ($user) {
479                 $hookData['result'] = twitter_user_to_contact($user);
480         }
481 }
482
483 function twitter_action(App $a, $uid, $pid, $action)
484 {
485         if (empty($pid)) {
486                 return;
487         }
488
489         $ckey = DI::config()->get('twitter', 'consumerkey');
490         $csecret = DI::config()->get('twitter', 'consumersecret');
491         $otoken = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
492         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
493
494         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
495
496         $post = ['id' => $pid];
497
498         Logger::debug('before action', ['action' => $action, 'pid' => $pid, 'data' => $post]);
499
500         switch ($action) {
501                 case 'delete':
502                         // To-Do: $result = $connection->post('statuses/destroy', $post);
503                         $result = [];
504                         break;
505                 case 'like':
506                         $result = $connection->post('favorites/create', $post);
507                         if ($connection->getLastHttpCode() != 200) {
508                                 Logger::warning('Unable to create favorite', ['result' => $result]);
509                         }
510                         break;
511                 case 'unlike':
512                         $result = $connection->post('favorites/destroy', $post);
513                         if ($connection->getLastHttpCode() != 200) {
514                                 Logger::warning('Unable to destroy favorite', ['result' => $result]);
515                         }
516                         break;
517                 default:
518                         Logger::warning('Unhandled action', ['action' => $action]);
519                         $result = [];
520         }
521
522         Logger::info('after action', ['action' => $action, 'result' => $result]);
523 }
524
525 function twitter_get_id(string $uri)
526 {
527         if ((substr($uri, 0, 9) != 'twitter::') || (strlen($uri) <= 9)) {
528                 return 0;
529         }
530
531         $id = substr($uri, 9);
532         if (!is_numeric($id)) {
533                 return 0;
534         }
535
536         return (int)$id;
537 }
538
539 function twitter_post_hook(App $a, array &$b)
540 {
541         // Post to Twitter
542         if (!DI::pConfig()->get($b["uid"], 'twitter', 'import')
543                 && ($b['deleted'] || $b['private'] || ($b['created'] !== $b['edited']))) {
544                 return;
545         }
546
547         $thr_parent = null;
548
549         if ($b['parent'] != $b['id']) {
550                 Logger::debug('Got comment', ['item' => $b]);
551
552                 // Looking if its a reply to a twitter post
553                 if (!twitter_get_id($b["parent-uri"]) &&
554                         !twitter_get_id($b["extid"]) &&
555                         !twitter_get_id($b["thr-parent"])) {
556                         Logger::info('No twitter post', ['parent' => $b["parent"]]);
557                         return;
558                 }
559
560                 $condition = ['uri' => $b["thr-parent"], 'uid' => $b["uid"]];
561                 $thr_parent = Post::selectFirst(['uri', 'extid', 'author-link', 'author-nick', 'author-network'], $condition);
562                 if (!DBA::isResult($thr_parent)) {
563                         Logger::warning('No parent found', ['thr-parent' => $b["thr-parent"]]);
564                         return;
565                 }
566
567                 if ($thr_parent['author-network'] == Protocol::TWITTER) {
568                         $nickname = '@[url=' . $thr_parent['author-link'] . ']' . $thr_parent['author-nick'] . '[/url]';
569                         $nicknameplain = '@' . $thr_parent['author-nick'];
570
571                         Logger::info('Comparing', ['nickname' => $nickname, 'nicknameplain' => $nicknameplain, 'body' => $b["body"]]);
572                         if ((strpos($b["body"], $nickname) === false) && (strpos($b["body"], $nicknameplain) === false)) {
573                                 $b["body"] = $nickname . " " . $b["body"];
574                         }
575                 }
576
577                 Logger::debug('Parent found', ['parent' => $thr_parent]);
578         } else {
579                 if ($b['private'] || !strstr($b['postopts'], 'twitter')) {
580                         return;
581                 }
582
583                 // Dont't post if the post doesn't belong to us.
584                 // This is a check for forum postings
585                 $self = DBA::selectFirst('contact', ['id'], ['uid' => $b['uid'], 'self' => true]);
586                 if ($b['contact-id'] != $self['id']) {
587                         return;
588                 }
589         }
590
591         if (($b['verb'] == Activity::POST) && $b['deleted']) {
592                 twitter_action($a, $b['uid'], twitter_get_id($thr_parent['uri']), 'delete');
593         }
594
595         if ($b['verb'] == Activity::LIKE) {
596                 Logger::info('Like', ['uid' => $b['uid'], 'id' => twitter_get_id($b["thr-parent"])]);
597                 if ($b['deleted']) {
598                         twitter_action($a, $b["uid"], twitter_get_id($b["thr-parent"]), "unlike");
599                 } else {
600                         twitter_action($a, $b["uid"], twitter_get_id($b["thr-parent"]), "like");
601                 }
602
603                 return;
604         }
605
606         if ($b['verb'] == Activity::ANNOUNCE) {
607                 Logger::info('Retweet', ['uid' => $b['uid'], 'id' => twitter_get_id($b["thr-parent"])]);
608                 if ($b['deleted']) {
609                         twitter_action($a, $b['uid'], twitter_get_id($thr_parent['extid']), 'delete');
610                 } else {
611                         twitter_retweet($b["uid"], twitter_get_id($b["thr-parent"]));
612                 }
613
614                 return;
615         }
616
617         if ($b['deleted'] || ($b['created'] !== $b['edited'])) {
618                 return;
619         }
620
621         // if post comes from twitter don't send it back
622         if (($b['extid'] == Protocol::TWITTER) || twitter_get_id($b['extid'])) {
623                 return;
624         }
625
626         if ($b['app'] == "Twitter") {
627                 return;
628         }
629
630         Logger::notice('twitter post invoked', ['id' => $b['id'], 'guid' => $b['guid']]);
631
632         DI::pConfig()->load($b['uid'], 'twitter');
633
634         $ckey    = DI::config()->get('twitter', 'consumerkey');
635         $csecret = DI::config()->get('twitter', 'consumersecret');
636         $otoken  = DI::pConfig()->get($b['uid'], 'twitter', 'oauthtoken');
637         $osecret = DI::pConfig()->get($b['uid'], 'twitter', 'oauthsecret');
638
639         if ($ckey && $csecret && $otoken && $osecret) {
640                 Logger::info('We have customer key and oauth stuff, going to send.');
641
642                 // If it's a repeated message from twitter then do a native retweet and exit
643                 if (twitter_is_retweet($a, $b['uid'], $b['body'])) {
644                         return;
645                 }
646
647                 Codebird::setConsumerKey($ckey, $csecret);
648                 $cb = Codebird::getInstance();
649                 $cb->setToken($otoken, $osecret);
650
651                 $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
652
653                 // Set the timeout for upload to 30 seconds
654                 $connection->setTimeouts(10, 30);
655
656                 $max_char = 280;
657
658                 // Handling non-native reshares
659                 $b['body'] = Friendica\Content\Text\BBCode::convertShare(
660                         $b['body'],
661                         function (array $attributes, array $author_contact, $content, $is_quote_share) {
662                                 return twitter_convert_share($attributes, $author_contact, $content, $is_quote_share);
663                         }
664                 );
665
666                 $b['body'] = twitter_update_mentions($b['body']);
667
668                 $msgarr = Plaintext::getPost($b, $max_char, true, BBCode::TWITTER);
669                 Logger::info('Got plaintext', ['id' => $b['id'], 'message' => $msgarr]);
670                 $msg = $msgarr["text"];
671
672                 if (($msg == "") && isset($msgarr["title"])) {
673                         $msg = Plaintext::shorten($msgarr["title"], $max_char - 50);
674                 }
675
676                 // Add the link to the body if the type isn't a photo or there are more than 4 images in the post
677                 if (!empty($msgarr['url']) && (($msgarr['type'] != 'photo') || empty($msgarr['images']) || (count($msgarr['images']) > 4))) {
678                         $msg .= "\n" . $msgarr['url'];
679                 }
680
681                 if (empty($msg)) {
682                         Logger::notice('Empty message', ['id' => $b['id']]);
683                         return;
684                 }
685
686                 // and now tweet it :-)
687                 $post = [];
688
689                 if (!empty($msgarr['images'])) {
690                         Logger::info('Got images', ['id' => $b['id'], 'images' => $msgarr['images']]);
691                         try {
692                                 $media_ids = [];
693                                 foreach ($msgarr['images'] as $image) {
694                                         if (count($media_ids) == 4) {
695                                                 continue;
696                                         }
697
698                                         $img_str = DI::httpRequest()->fetch($image['url']);
699
700                                         $tempfile = tempnam(get_temppath(), 'cache');
701                                         file_put_contents($tempfile, $img_str);
702
703                                         Logger::info('Uploading', ['id' => $b['id'], 'image' => $image['url']]);
704                                         $media = $connection->upload('media/upload', ['media' => $tempfile]);
705
706                                         unlink($tempfile);
707
708                                         if (isset($media->media_id_string)) {
709                                                 $media_ids[] = $media->media_id_string;
710
711                                                 if (!empty($image['description'])) {
712                                                         $data = ['media_id' => $media->media_id_string,
713                                                                 'alt_text' => ['text' => substr($image['description'], 0, 420)]];
714                                                         $ret = $cb->media_metadata_create($data);
715                                                         Logger::info('Metadata create', ['id' => $b['id'], 'data' => $data, 'return' => json_encode($ret)]);
716                                                 }
717                                         } else {
718                                                 Logger::error('Failed upload', ['id' => $b['id'], 'image' => $image['url']]);
719                                                 throw new Exception('Failed upload of ' . $image['url']);
720                                         }
721                                 }
722                                 $post['media_ids'] = implode(',', $media_ids);
723                                 if (empty($post['media_ids'])) {
724                                         unset($post['media_ids']);
725                                 }
726                         } catch (Exception $e) {
727                                 Logger::warning('Exception when trying to send to Twitter', ['id' => $b['id'], 'message' => $e->getMessage()]);
728                         }
729                 }
730
731                 $post['status'] = $msg;
732
733                 if ($thr_parent) {
734                         $post['in_reply_to_status_id'] = twitter_get_id($thr_parent['uri']);
735                 }
736
737                 $url = 'statuses/update';
738                 $result = $connection->post($url, $post);
739                 Logger::info('twitter_post send', ['id' => $b['id'], 'result' => $result]);
740
741                 if (!empty($result->source)) {
742                         DI::config()->set("twitter", "application_name", strip_tags($result->source));
743                 }
744
745                 if (!empty($result->errors)) {
746                         Logger::error('Send to Twitter failed', ['id' => $b['id'], 'error' => $result->errors]);
747                         Worker::defer();
748                 } elseif ($thr_parent) {
749                         Logger::notice('Post send, updating extid', ['id' => $b['id'], 'extid' => $result->id_str]);
750                         Item::update(['extid' => "twitter::" . $result->id_str], ['id' => $b['id']]);
751                 }
752         }
753 }
754
755 function twitter_addon_admin_post(App $a)
756 {
757         $consumerkey    = !empty($_POST['consumerkey'])    ? Strings::escapeTags(trim($_POST['consumerkey']))    : '';
758         $consumersecret = !empty($_POST['consumersecret']) ? Strings::escapeTags(trim($_POST['consumersecret'])) : '';
759         DI::config()->set('twitter', 'consumerkey', $consumerkey);
760         DI::config()->set('twitter', 'consumersecret', $consumersecret);
761 }
762
763 function twitter_addon_admin(App $a, &$o)
764 {
765         $t = Renderer::getMarkupTemplate("admin.tpl", "addon/twitter/");
766
767         $o = Renderer::replaceMacros($t, [
768                 '$submit' => DI::l10n()->t('Save Settings'),
769                 // name, label, value, help, [extra values]
770                 '$consumerkey' => ['consumerkey', DI::l10n()->t('Consumer key'), DI::config()->get('twitter', 'consumerkey'), ''],
771                 '$consumersecret' => ['consumersecret', DI::l10n()->t('Consumer secret'), DI::config()->get('twitter', 'consumersecret'), ''],
772         ]);
773 }
774
775 function twitter_cron(App $a)
776 {
777         $last = DI::config()->get('twitter', 'last_poll');
778
779         $poll_interval = intval(DI::config()->get('twitter', 'poll_interval'));
780         if (!$poll_interval) {
781                 $poll_interval = TWITTER_DEFAULT_POLL_INTERVAL;
782         }
783
784         if ($last) {
785                 $next = $last + ($poll_interval * 60);
786                 if ($next > time()) {
787                         Logger::notice('twitter: poll intervall not reached');
788                         return;
789                 }
790         }
791         Logger::notice('twitter: cron_start');
792
793         $r = q("SELECT * FROM `pconfig` WHERE `cat` = 'twitter' AND `k` = 'mirror_posts' AND `v` = '1'");
794         if (DBA::isResult($r)) {
795                 foreach ($r as $rr) {
796                         Logger::notice('Fetching', ['user' => $rr['uid']]);
797                         Worker::add(['priority' => PRIORITY_MEDIUM, 'force_priority' => true], "addon/twitter/twitter_sync.php", 1, (int) $rr['uid']);
798                 }
799         }
800
801         $abandon_days = intval(DI::config()->get('system', 'account_abandon_days'));
802         if ($abandon_days < 1) {
803                 $abandon_days = 0;
804         }
805
806         $abandon_limit = date(DateTimeFormat::MYSQL, time() - $abandon_days * 86400);
807
808         $r = q("SELECT * FROM `pconfig` WHERE `cat` = 'twitter' AND `k` = 'import' AND `v` = '1'");
809         if (DBA::isResult($r)) {
810                 foreach ($r as $rr) {
811                         if ($abandon_days != 0) {
812                                 $user = q("SELECT `login_date` FROM `user` WHERE uid=%d AND `login_date` >= '%s'", $rr['uid'], $abandon_limit);
813                                 if (!DBA::isResult($user)) {
814                                         Logger::notice('abandoned account: timeline from user will not be imported', ['user' => $rr['uid']]);
815                                         continue;
816                                 }
817                         }
818
819                         Logger::notice('importing timeline', ['user' => $rr['uid']]);
820                         Worker::add(['priority' => PRIORITY_MEDIUM, 'force_priority' => true], "addon/twitter/twitter_sync.php", 2, (int) $rr['uid']);
821                         /*
822                           // To-Do
823                           // check for new contacts once a day
824                           $last_contact_check = DI::pConfig()->get($rr['uid'],'pumpio','contact_check');
825                           if($last_contact_check)
826                           $next_contact_check = $last_contact_check + 86400;
827                           else
828                           $next_contact_check = 0;
829
830                           if($next_contact_check <= time()) {
831                           pumpio_getallusers($a, $rr["uid"]);
832                           DI::pConfig()->set($rr['uid'],'pumpio','contact_check',time());
833                           }
834                          */
835                 }
836         }
837
838         Logger::notice('twitter: cron_end');
839
840         DI::config()->set('twitter', 'last_poll', time());
841 }
842
843 function twitter_expire(App $a)
844 {
845         $days = DI::config()->get('twitter', 'expire');
846
847         if ($days == 0) {
848                 return;
849         }
850
851         Logger::notice('Start deleting expired posts');
852
853         $r = Post::select(['id', 'guid'], ['deleted' => true, 'network' => Protocol::TWITTER]);
854         while ($row = Post::fetch($r)) {
855                 Logger::info('[twitter] Delete expired item', ['id' => $row['id'], 'guid' => $row['guid'], 'callstack' => \Friendica\Core\System::callstack()]);
856                 Item::markForDeletionById($row['id']);
857         }
858         DBA::close($r);
859
860         Logger::notice('End deleting expired posts');
861
862         Logger::notice('Start expiry');
863
864         $r = q("SELECT * FROM `pconfig` WHERE `cat` = 'twitter' AND `k` = 'import' AND `v` = '1' ORDER BY RAND()");
865         if (DBA::isResult($r)) {
866                 foreach ($r as $rr) {
867                         Logger::notice('twitter_expire', ['user' => $rr['uid']]);
868                         Item::expire($rr['uid'], $days, Protocol::TWITTER, true);
869                 }
870         }
871
872         Logger::notice('End expiry');
873 }
874
875 function twitter_prepare_body(App $a, array &$b)
876 {
877         if ($b["item"]["network"] != Protocol::TWITTER) {
878                 return;
879         }
880
881         if ($b["preview"]) {
882                 $max_char = 280;
883                 $item = $b["item"];
884                 $item["plink"] = DI::baseUrl()->get() . "/display/" . $item["guid"];
885
886                 $condition = ['uri' => $item["thr-parent"], 'uid' => local_user()];
887                 $orig_post = Post::selectFirst(['author-link'], $condition);
888                 if (DBA::isResult($orig_post)) {
889                         $nicknameplain = preg_replace("=https?://twitter.com/(.*)=ism", "$1", $orig_post["author-link"]);
890                         $nickname = "@[url=" . $orig_post["author-link"] . "]" . $nicknameplain . "[/url]";
891                         $nicknameplain = "@" . $nicknameplain;
892
893                         if ((strpos($item["body"], $nickname) === false) && (strpos($item["body"], $nicknameplain) === false)) {
894                                 $item["body"] = $nickname . " " . $item["body"];
895                         }
896                 }
897
898                 $msgarr = Plaintext::getPost($item, $max_char, true, BBCode::TWITTER);
899                 $msg = $msgarr["text"];
900
901                 if (isset($msgarr["url"]) && ($msgarr["type"] != "photo")) {
902                         $msg .= " " . $msgarr["url"];
903                 }
904
905                 if (isset($msgarr["image"])) {
906                         $msg .= " " . $msgarr["image"];
907                 }
908
909                 $b['html'] = nl2br(htmlspecialchars($msg));
910         }
911 }
912
913 function twitter_statuses_show(string $id, TwitterOAuth $twitterOAuth = null)
914 {
915         if ($twitterOAuth === null) {
916                 $ckey = DI::config()->get('twitter', 'consumerkey');
917                 $csecret = DI::config()->get('twitter', 'consumersecret');
918
919                 if (empty($ckey) || empty($csecret)) {
920                         return new stdClass();
921                 }
922
923                 $twitterOAuth = new TwitterOAuth($ckey, $csecret);
924         }
925
926         $parameters = ['trim_user' => false, 'tweet_mode' => 'extended', 'id' => $id, 'include_ext_alt_text' => true];
927
928         return $twitterOAuth->get('statuses/show', $parameters);
929 }
930
931 /**
932  * Parse Twitter status URLs since Twitter removed OEmbed
933  *
934  * @param App   $a
935  * @param array $b Expected format:
936  *                 [
937  *                      'url' => [URL to parse],
938  *                      'format' => 'json'|'',
939  *                      'text' => Output parameter
940  *                 ]
941  * @throws \Friendica\Network\HTTPException\InternalServerErrorException
942  */
943 function twitter_parse_link(App $a, array &$b)
944 {
945         // Only handle Twitter status URLs
946         if (!preg_match('#^https?://(?:mobile\.|www\.)?twitter.com/[^/]+/status/(\d+).*#', $b['url'], $matches)) {
947                 return;
948         }
949
950         $status = twitter_statuses_show($matches[1]);
951
952         if (empty($status->id)) {
953                 return;
954         }
955
956         $item = twitter_createpost($a, 0, $status, [], true, false, true);
957
958         if ($b['format'] == 'json') {
959                 $images = [];
960                 foreach ($status->extended_entities->media ?? [] as $media) {
961                         if (!empty($media->media_url_https)) {
962                                 $images[] = [
963                                         'src'    => $media->media_url_https,
964                                         'width'  => $media->sizes->thumb->w,
965                                         'height' => $media->sizes->thumb->h,
966                                 ];
967                         }
968                 }
969
970                 $b['text'] = [
971                         'data' => [
972                                 'type' => 'link',
973                                 'url' => $item['plink'],
974                                 'title' => DI::l10n()->t('%s on Twitter', $status->user->name),
975                                 'text' => BBCode::toPlaintext($item['body'], false),
976                                 'images' => $images,
977                         ],
978                         'contentType' => 'attachment',
979                         'success' => true,
980                 ];
981         } else {
982                 $b['text'] = BBCode::getShareOpeningTag(
983                         $item['author-name'],
984                         $item['author-link'],
985                         $item['author-avatar'],
986                         $item['plink'],
987                         $item['created']
988                 );
989                 $b['text'] .= $item['body'] . '[/share]';
990         }
991 }
992
993
994 /*********************
995  *
996  * General functions
997  *
998  *********************/
999
1000
1001 /**
1002  * @brief Build the item array for the mirrored post
1003  *
1004  * @param App $a Application class
1005  * @param integer $uid User id
1006  * @param object $post Twitter object with the post
1007  *
1008  * @return array item data to be posted
1009  */
1010 function twitter_do_mirrorpost(App $a, $uid, $post)
1011 {
1012         $datarray['uid'] = $uid;
1013         $datarray['extid'] = 'twitter::' . $post->id;
1014         $datarray['title'] = '';
1015
1016         if (!empty($post->retweeted_status)) {
1017                 // We don't support nested shares, so we mustn't show quotes as shares on retweets
1018                 $item = twitter_createpost($a, $uid, $post->retweeted_status, ['id' => 0], false, false, true, -1);
1019
1020                 if (empty($item['body'])) {
1021                         return [];
1022                 }
1023
1024                 $datarray['body'] = "\n" . BBCode::getShareOpeningTag(
1025                         $item['author-name'],
1026                         $item['author-link'],
1027                         $item['author-avatar'],
1028                         $item['plink'],
1029                         $item['created']
1030                 );
1031
1032                 $datarray['body'] .= $item['body'] . '[/share]';
1033         } else {
1034                 $item = twitter_createpost($a, $uid, $post, ['id' => 0], false, false, false, -1);
1035
1036                 if (empty($item['body'])) {
1037                         return [];
1038                 }
1039
1040                 $datarray['body'] = $item['body'];
1041         }
1042
1043         $datarray['app'] = $item['app'];
1044         $datarray['verb'] = $item['verb'];
1045
1046         if (isset($item['location'])) {
1047                 $datarray['location'] = $item['location'];
1048         }
1049
1050         if (isset($item['coord'])) {
1051                 $datarray['coord'] = $item['coord'];
1052         }
1053
1054         return $datarray;
1055 }
1056
1057 function twitter_fetchtimeline(App $a, $uid)
1058 {
1059         $ckey    = DI::config()->get('twitter', 'consumerkey');
1060         $csecret = DI::config()->get('twitter', 'consumersecret');
1061         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
1062         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
1063         $lastid  = DI::pConfig()->get($uid, 'twitter', 'lastid');
1064
1065         $application_name = DI::config()->get('twitter', 'application_name');
1066
1067         if ($application_name == "") {
1068                 $application_name = DI::baseUrl()->getHostname();
1069         }
1070
1071         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
1072
1073         // Ensure to have the own contact
1074         try {
1075                 twitter_fetch_own_contact($a, $uid);
1076         } catch (TwitterOAuthException $e) {
1077                 Logger::warning('Error fetching own contact', ['uid' => $uid, 'message' => $e->getMessage()]);
1078                 return;
1079         }
1080
1081         $parameters = ["exclude_replies" => true, "trim_user" => false, "contributor_details" => true, "include_rts" => true, "tweet_mode" => "extended", "include_ext_alt_text" => true];
1082
1083         $first_time = ($lastid == "");
1084
1085         if ($lastid != "") {
1086                 $parameters["since_id"] = $lastid;
1087         }
1088
1089         try {
1090                 $items = $connection->get('statuses/user_timeline', $parameters);
1091         } catch (TwitterOAuthException $e) {
1092                 Logger::warning('Error fetching timeline', ['uid' => $uid, 'message' => $e->getMessage()]);
1093                 return;
1094         }
1095
1096         if (!is_array($items)) {
1097                 Logger::notice('No items', ['user' => $uid]);
1098                 return;
1099         }
1100
1101         $posts = array_reverse($items);
1102
1103         Logger::notice('Start processing posts', ['from' => $lastid, 'user' => $uid, 'count' => count($posts)]);
1104
1105         if (count($posts)) {
1106                 foreach ($posts as $post) {
1107                         if ($post->id_str > $lastid) {
1108                                 $lastid = $post->id_str;
1109                                 DI::pConfig()->set($uid, 'twitter', 'lastid', $lastid);
1110                         }
1111
1112                         if ($first_time) {
1113                                 continue;
1114                         }
1115
1116                         if (!stristr($post->source, $application_name)) {
1117                                 Logger::info('Preparing mirror post', ['twitter-id' => $post->id_str, 'uid' => $uid]);
1118
1119                                 $mirrorpost = twitter_do_mirrorpost($a, $uid, $post);
1120
1121                                 if (empty($mirrorpost['body'])) {
1122                                         continue;
1123                                 }
1124
1125                                 Logger::info('Posting mirror post', ['twitter-id' => $post->id_str, 'uid' => $uid]);
1126
1127                                 Post\Delayed::add($mirrorpost['extid'], $mirrorpost, PRIORITY_MEDIUM, true);
1128                         }
1129                 }
1130         }
1131         DI::pConfig()->set($uid, 'twitter', 'lastid', $lastid);
1132         Logger::log('Last ID for user ' . $uid . ' is now ' . $lastid, Logger::DEBUG);
1133 }
1134
1135 function twitter_fix_avatar($avatar)
1136 {
1137         $new_avatar = str_replace("_normal.", ".", $avatar);
1138
1139         $info = Images::getInfoFromURLCached($new_avatar);
1140         if (!$info) {
1141                 $new_avatar = $avatar;
1142         }
1143
1144         return $new_avatar;
1145 }
1146
1147 function twitter_get_relation($uid, $target, $contact = [])
1148 {
1149         if (isset($contact['rel'])) {
1150                 $relation = $contact['rel'];
1151         } else {
1152                 $relation = 0;
1153         }
1154
1155         $ckey = DI::config()->get('twitter', 'consumerkey');
1156         $csecret = DI::config()->get('twitter', 'consumersecret');
1157         $otoken = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
1158         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
1159         $own_id = DI::pConfig()->get($uid, 'twitter', 'own_id');
1160
1161         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
1162         $parameters = ['source_id' => $own_id, 'target_screen_name' => $target];
1163
1164         try {
1165                 $status = $connection->get('friendships/show', $parameters);
1166                 if ($connection->getLastHttpCode() !== 200) {
1167                         throw new Exception($status->errors[0]->message ?? 'HTTP response code ' . $connection->getLastHttpCode(), $status->errors[0]->code ?? $connection->getLastHttpCode());
1168                 }
1169
1170                 $following = $status->relationship->source->following;
1171                 $followed = $status->relationship->source->followed_by;
1172
1173                 if ($following && !$followed) {
1174                         $relation = Contact::SHARING;
1175                 } elseif (!$following && $followed) {
1176                         $relation = Contact::FOLLOWER;
1177                 } elseif ($following && $followed) {
1178                         $relation = Contact::FRIEND;
1179                 } elseif (!$following && !$followed) {
1180                         $relation = 0;
1181                 }
1182
1183                 Logger::info('Fetched friendship relation', ['user' => $uid, 'target' => $target, 'relation' => $relation]);
1184         } catch (Throwable $e) {
1185                 Logger::warning('Error fetching friendship status', ['uid' => $uid, 'target' => $target, 'message' => $e->getMessage()]);
1186         }
1187
1188         return $relation;
1189 }
1190
1191 /**
1192  * @param $data
1193  * @return array
1194  */
1195 function twitter_user_to_contact($data)
1196 {
1197         if (empty($data->id_str)) {
1198                 return [];
1199         }
1200
1201         $baseurl = 'https://twitter.com';
1202         $url = $baseurl . '/' . $data->screen_name;
1203         $addr = $data->screen_name . '@twitter.com';
1204
1205         $fields = [
1206                 'url'      => $url,
1207                 'network'  => Protocol::TWITTER,
1208                 'alias'    => 'twitter::' . $data->id_str,
1209                 'baseurl'  => $baseurl,
1210                 'name'     => $data->name,
1211                 'nick'     => $data->screen_name,
1212                 'addr'     => $addr,
1213                 'location' => $data->location,
1214                 'about'    => $data->description,
1215                 'photo'    => twitter_fix_avatar($data->profile_image_url_https),
1216         ];
1217
1218         return $fields;
1219 }
1220
1221 function twitter_fetch_contact($uid, $data, $create_user)
1222 {
1223         $fields = twitter_user_to_contact($data);
1224
1225         if (empty($fields)) {
1226                 return -1;
1227         }
1228
1229         // photo comes from twitter_user_to_contact but shouldn't be saved directly in the contact row
1230         $avatar = $fields['photo'];
1231         unset($fields['photo']);
1232
1233         // Update the public contact
1234         $pcontact = DBA::selectFirst('contact', ['id'], ['uid' => 0, 'alias' => "twitter::" . $data->id_str]);
1235         if (DBA::isResult($pcontact)) {
1236                 $cid = $pcontact['id'];
1237         } else {
1238                 $cid = Contact::getIdForURL($fields['url'], 0, false, $fields);
1239         }
1240
1241         if (!empty($cid)) {
1242                 DBA::update('contact', $fields, ['id' => $cid]);
1243                 Contact::updateAvatar($cid, $avatar);
1244         } else {
1245                 Logger::warning('No contact found', ['fields' => $fields]);
1246         }
1247
1248         $contact = DBA::selectFirst('contact', [], ['uid' => $uid, 'alias' => "twitter::" . $data->id_str]);
1249         if (!DBA::isResult($contact) && empty($cid)) {
1250                 Logger::warning('User contact not found', ['uid' => $uid, 'twitter-id' => $data->id_str]);
1251                 return 0;
1252         } elseif (!$create_user) {
1253                 return $cid;
1254         }
1255
1256         if (!DBA::isResult($contact)) {
1257                 $relation = twitter_get_relation($uid, $data->screen_name);
1258
1259                 // create contact record
1260                 $fields['uid'] = $uid;
1261                 $fields['created'] = DateTimeFormat::utcNow();
1262                 $fields['nurl'] = Strings::normaliseLink($fields['url']);
1263                 $fields['poll'] = 'twitter::' . $data->id_str;
1264                 $fields['rel'] = $relation;
1265                 $fields['priority'] = 1;
1266                 $fields['writable'] = true;
1267                 $fields['blocked'] = false;
1268                 $fields['readonly'] = false;
1269                 $fields['pending'] = false;
1270
1271                 if (!DBA::insert('contact', $fields)) {
1272                         return false;
1273                 }
1274
1275                 $contact_id = DBA::lastInsertId();
1276
1277                 Group::addMember(User::getDefaultGroup($uid), $contact_id);
1278
1279                 Contact::updateAvatar($contact_id, $avatar);
1280         } else {
1281                 if ($contact["readonly"] || $contact["blocked"]) {
1282                         Logger::notice('Contact is blocked or readonly.', ['nickname' => $contact["nick"]]);
1283                         return -1;
1284                 }
1285
1286                 $contact_id = $contact['id'];
1287                 $update = false;
1288
1289                 // Update the contact relation once per day
1290                 if ($contact['updated'] < DateTimeFormat::utc('now -24 hours')) {
1291                         $fields['rel'] = twitter_get_relation($uid, $data->screen_name, $contact);
1292                         $update = true;
1293                 }
1294
1295                 Contact::updateAvatar($contact['id'], $avatar);
1296
1297                 if ($contact['name'] != $data->name) {
1298                         $fields['name-date'] = $fields['uri-date'] = DateTimeFormat::utcNow();
1299                         $update = true;
1300                 }
1301
1302                 if ($contact['nick'] != $data->screen_name) {
1303                         $fields['uri-date'] = DateTimeFormat::utcNow();
1304                         $update = true;
1305                 }
1306
1307                 if (($contact['location'] != $data->location) || ($contact['about'] != $data->description)) {
1308                         $update = true;
1309                 }
1310
1311                 if ($update) {
1312                         $fields['updated'] = DateTimeFormat::utcNow();
1313                         DBA::update('contact', $fields, ['id' => $contact['id']]);
1314                         Logger::info('Updated contact', ['id' => $contact['id'], 'nick' => $data->screen_name]);
1315                 }
1316         }
1317
1318         return $contact_id;
1319 }
1320
1321 /**
1322  * @param string $screen_name
1323  * @return stdClass|null
1324  * @throws Exception
1325  */
1326 function twitter_fetchuser($screen_name)
1327 {
1328         $ckey = DI::config()->get('twitter', 'consumerkey');
1329         $csecret = DI::config()->get('twitter', 'consumersecret');
1330
1331         try {
1332                 // Fetching user data
1333                 $connection = new TwitterOAuth($ckey, $csecret);
1334                 $parameters = ['screen_name' => $screen_name];
1335                 $user = $connection->get('users/show', $parameters);
1336         } catch (TwitterOAuthException $e) {
1337                 Logger::warning('Error fetching user', ['user' => $screen_name, 'message' => $e->getMessage()]);
1338                 return null;
1339         }
1340
1341         if (!is_object($user)) {
1342                 return null;
1343         }
1344
1345         return $user;
1346 }
1347
1348 /**
1349  * Replaces Twitter entities with Friendica-friendly links.
1350  *
1351  * The Twitter API gives indices for each entity, which allows for fine-grained replacement.
1352  *
1353  * First, we need to collect everything that needs to be replaced, what we will replace it with, and the start index.
1354  * Then we sort the indices decreasingly, and we replace from the end of the body to the start in order for the next
1355  * index to be correct even after the last replacement.
1356  *
1357  * @param string   $body
1358  * @param stdClass $status
1359  * @param string   $picture
1360  * @return array
1361  * @throws \Friendica\Network\HTTPException\InternalServerErrorException
1362  */
1363 function twitter_expand_entities($body, stdClass $status, $picture)
1364 {
1365         $plain = $body;
1366
1367         $taglist = [];
1368
1369         $replacementList = [];
1370
1371         foreach ($status->entities->hashtags AS $hashtag) {
1372                 $replace = '#[url=' . DI::baseUrl()->get() . '/search?tag=' . $hashtag->text . ']' . $hashtag->text . '[/url]';
1373                 $taglist['#' . $hashtag->text] = ['#', $hashtag->text, ''];
1374
1375                 $replacementList[$hashtag->indices[0]] = [
1376                         'replace' => $replace,
1377                         'length' => $hashtag->indices[1] - $hashtag->indices[0],
1378                 ];
1379         }
1380
1381         foreach ($status->entities->user_mentions AS $mention) {
1382                 $replace = '@[url=https://twitter.com/' . rawurlencode($mention->screen_name) . ']' . $mention->screen_name . '[/url]';
1383                 $taglist['@' . $mention->screen_name] = ['@', $mention->screen_name, 'https://twitter.com/' . rawurlencode($mention->screen_name)];
1384
1385                 $replacementList[$mention->indices[0]] = [
1386                         'replace' => $replace,
1387                         'length' => $mention->indices[1] - $mention->indices[0],
1388                 ];
1389         }
1390
1391         // This URL if set will be used to add an attachment at the bottom of the post
1392         $attachmentUrl = '';
1393
1394         foreach ($status->entities->urls ?? [] as $url) {
1395                 $plain = str_replace($url->url, '', $plain);
1396
1397                 if ($url->url && $url->expanded_url && $url->display_url) {
1398                         // Quote tweet, we just remove the quoted tweet URL from the body, the share block will be added later.
1399                         if (!empty($status->quoted_status) && isset($status->quoted_status_id_str)
1400                                 && substr($url->expanded_url, -strlen($status->quoted_status_id_str)) == $status->quoted_status_id_str
1401                         ) {
1402                                 $replacementList[$url->indices[0]] = [
1403                                         'replace' => '',
1404                                         'length' => $url->indices[1] - $url->indices[0],
1405                                 ];
1406                                 continue;
1407                         }
1408
1409                         $expanded_url = $url->expanded_url;
1410
1411                         $final_url = DI::httpRequest()->finalUrl($url->expanded_url);
1412
1413                         $oembed_data = OEmbed::fetchURL($final_url);
1414
1415                         $type = $oembed_data->type ?? '';
1416
1417                         // Quickfix: Workaround for URL with '[' and ']' in it
1418                         if (strpos($expanded_url, '[') || strpos($expanded_url, ']')) {
1419                                 $expanded_url = $url->url;
1420                         }
1421
1422                         if ($type === 'video') {
1423                                 $attachmentUrl = $expanded_url;
1424                                 $replace = '';
1425                         } elseif ($type === 'photo' && !empty($oembed_data->url)) {
1426                                 $replace = '[url=' . $expanded_url . '][img]' . $oembed_data->url . '[/img][/url]';
1427                         } elseif ($type === 'link') {
1428                                 $img_str = DI::httpRequest()->fetch($final_url, 4);
1429
1430                                 $tempfile = tempnam(get_temppath(), 'cache');
1431                                 file_put_contents($tempfile, $img_str);
1432
1433                                 // See http://php.net/manual/en/function.exif-imagetype.php#79283
1434                                 if (filesize($tempfile) > 11) {
1435                                         $mime = image_type_to_mime_type(exif_imagetype($tempfile));
1436                                 } else {
1437                                         $mime = false;
1438                                 }
1439
1440                                 unlink($tempfile);
1441
1442                                 if (substr($mime, 0, 6) == 'image/') {
1443                                         $replace = '[img]' . $final_url . '[/img]';
1444                                 } else {
1445                                         $attachmentUrl = $expanded_url;
1446                                         $replace = '';
1447                                 }
1448                         } else {
1449                                 $replace = '[url=' . $expanded_url . ']' . $url->display_url . '[/url]';
1450                         }
1451
1452                         $replacementList[$url->indices[0]] = [
1453                                 'replace' => $replace,
1454                                 'length' => $url->indices[1] - $url->indices[0],
1455                         ];
1456                 }
1457         }
1458
1459         krsort($replacementList);
1460
1461         foreach ($replacementList as $startIndex => $parameters) {
1462                 $body = Strings::substringReplace($body, $parameters['replace'], $startIndex, $parameters['length']);
1463         }
1464
1465         $body = trim($body);
1466
1467         // Footer will be taken care of with a share block in the case of a quote
1468         if (empty($status->quoted_status)) {
1469                 $footer = '';
1470                 if ($attachmentUrl) {
1471                         $footer = "\n" . PageInfo::getFooterFromUrl($attachmentUrl, false, $picture);
1472                 }
1473
1474                 if (trim($footer)) {
1475                         $body .= $footer;
1476                 } elseif ($picture) {
1477                         $body .= "\n\n[img]" . $picture . "[/img]\n";
1478                 } else {
1479                         $body = PageInfo::searchAndAppendToBody($body);
1480                 }
1481         }
1482
1483         return ['body' => trim($body), 'plain' => trim($plain), 'taglist' => $taglist];
1484 }
1485
1486 /**
1487  * @brief Fetch media entities and add media links to the body
1488  *
1489  * @param object $post Twitter object with the post
1490  * @param array $postarray Array of the item that is about to be posted
1491  *
1492  * @return $picture string Image URL or empty string
1493  */
1494 function twitter_media_entities($post, array &$postarray)
1495 {
1496         // There are no media entities? So we quit.
1497         if (empty($post->extended_entities->media)) {
1498                 return '';
1499         }
1500
1501         // When the post links to an external page, we only take one picture.
1502         // We only do this when there is exactly one media.
1503         if ((count($post->entities->urls) > 0) && (count($post->extended_entities->media) == 1)) {
1504                 $medium = $post->extended_entities->media[0];
1505                 $picture = '';
1506                 foreach ($post->entities->urls as $link) {
1507                         // Let's make sure the external link url matches the media url
1508                         if ($medium->url == $link->url && isset($medium->media_url_https)) {
1509                                 $picture = $medium->media_url_https;
1510                                 $postarray['body'] = str_replace($medium->url, '', $postarray['body']);
1511                                 return $picture;
1512                         }
1513                 }
1514         }
1515
1516
1517
1518         // This is a pure media post, first search for all media urls
1519         $media = [];
1520         foreach ($post->extended_entities->media AS $medium) {
1521                 if (!isset($media[$medium->url])) {
1522                         $media[$medium->url] = '';
1523                 }
1524                 switch ($medium->type) {
1525                         case 'photo':
1526                                 if (!empty($medium->ext_alt_text)) {
1527                                         Logger::info('Got text description', ['alt_text' => $medium->ext_alt_text]);
1528                                         $media[$medium->url] .= "\n[img=" . $medium->media_url_https .']' . $medium->ext_alt_text . '[/img]';
1529                                 } else {
1530                                         $media[$medium->url] .= "\n[img]" . $medium->media_url_https . '[/img]';
1531                                 }
1532
1533                                 $postarray['object-type'] = Activity\ObjectType::IMAGE;
1534                                 $postarray['post-type'] = Item::PT_IMAGE;
1535                                 break;
1536                         case 'video':
1537                                 $postarray['post-type'] = Item::PT_VIDEO;
1538                         case 'animated_gif':
1539                                 if (!empty($medium->ext_alt_text)) {
1540                                         Logger::info('Got text description', ['alt_text' => $medium->ext_alt_text]);
1541                                         $media[$medium->url] .= "\n[img=" . $medium->media_url_https .']' . $medium->ext_alt_text . '[/img]';
1542                                 } else {
1543                                         $media[$medium->url] .= "\n[img]" . $medium->media_url_https . '[/img]';
1544                                 }
1545
1546                                 $postarray['object-type'] = Activity\ObjectType::VIDEO;
1547                                 if (is_array($medium->video_info->variants)) {
1548                                         $bitrate = 0;
1549                                         // We take the video with the highest bitrate
1550                                         foreach ($medium->video_info->variants AS $variant) {
1551                                                 if (($variant->content_type == 'video/mp4') && ($variant->bitrate >= $bitrate)) {
1552                                                         $media[$medium->url] = "\n[video]" . $variant->url . '[/video]';
1553                                                         $bitrate = $variant->bitrate;
1554                                                 }
1555                                         }
1556                                 }
1557                                 break;
1558                         // The following code will only be activated for test reasons
1559                         //default:
1560                         //      $postarray['body'] .= print_r($medium, true);
1561                 }
1562         }
1563
1564         // Now we replace the media urls.
1565         foreach ($media AS $key => $value) {
1566                 $postarray['body'] = str_replace($key, "\n" . $value . "\n", $postarray['body']);
1567         }
1568
1569         return '';
1570 }
1571
1572 /**
1573  * Undocumented function
1574  *
1575  * @param App $a
1576  * @param integer $uid User ID
1577  * @param object $post Incoming Twitter post
1578  * @param array $self
1579  * @param bool $create_user Should users be created?
1580  * @param bool $only_existing_contact Only import existing contacts if set to "true"
1581  * @param bool $noquote
1582  * @param integer $uriid URI Id used to store tags. 0 = create a new one; -1 = don't store tags for this post.
1583  * @return array item array
1584  */
1585 function twitter_createpost(App $a, $uid, $post, array $self, $create_user, $only_existing_contact, $noquote, int $uriid = 0)
1586 {
1587         $postarray = [];
1588         $postarray['network'] = Protocol::TWITTER;
1589         $postarray['uid'] = $uid;
1590         $postarray['wall'] = 0;
1591         $postarray['uri'] = "twitter::" . $post->id_str;
1592         $postarray['protocol'] = Conversation::PARCEL_TWITTER;
1593         $postarray['source'] = json_encode($post);
1594         $postarray['direction'] = Conversation::PULL;
1595
1596         if (empty($uriid)) {
1597                 $uriid = $postarray['uri-id'] = ItemURI::insert(['uri' => $postarray['uri']]);
1598         }
1599
1600         // Don't import our own comments
1601         if (Post::exists(['extid' => $postarray['uri'], 'uid' => $uid])) {
1602                 Logger::info('Item found', ['extid' => $postarray['uri']]);
1603                 return [];
1604         }
1605
1606         $contactid = 0;
1607
1608         if ($post->in_reply_to_status_id_str != "") {
1609                 $thr_parent = "twitter::" . $post->in_reply_to_status_id_str;
1610
1611                 $item = Post::selectFirst(['uri'], ['uri' => $thr_parent, 'uid' => $uid]);
1612                 if (!DBA::isResult($item)) {
1613                         $item = Post::selectFirst(['uri'], ['extid' => $thr_parent, 'uid' => $uid]);
1614                 }
1615
1616                 if (DBA::isResult($item)) {
1617                         $postarray['thr-parent'] = $item['uri'];
1618                         $postarray['object-type'] = Activity\ObjectType::COMMENT;
1619                 } else {
1620                         $postarray['object-type'] = Activity\ObjectType::NOTE;
1621                 }
1622
1623                 // Is it me?
1624                 $own_id = DI::pConfig()->get($uid, 'twitter', 'own_id');
1625
1626                 if ($post->user->id_str == $own_id) {
1627                         $r = q("SELECT * FROM `contact` WHERE `self` = 1 AND `uid` = %d LIMIT 1",
1628                                 intval($uid));
1629
1630                         if (DBA::isResult($r)) {
1631                                 $contactid = $r[0]["id"];
1632
1633                                 $postarray['owner-name']   = $r[0]["name"];
1634                                 $postarray['owner-link']   = $r[0]["url"];
1635                                 $postarray['owner-avatar'] = $r[0]["photo"];
1636                         } else {
1637                                 Logger::error('No self contact found', ['uid' => $uid]);
1638                                 return [];
1639                         }
1640                 }
1641                 // Don't create accounts of people who just comment something
1642                 $create_user = false;
1643         } else {
1644                 $postarray['object-type'] = Activity\ObjectType::NOTE;
1645         }
1646
1647         if ($contactid == 0) {
1648                 $contactid = twitter_fetch_contact($uid, $post->user, $create_user);
1649
1650                 $postarray['owner-name'] = $post->user->name;
1651                 $postarray['owner-link'] = "https://twitter.com/" . $post->user->screen_name;
1652                 $postarray['owner-avatar'] = twitter_fix_avatar($post->user->profile_image_url_https);
1653         }
1654
1655         if (($contactid == 0) && !$only_existing_contact) {
1656                 $contactid = $self['id'];
1657         } elseif ($contactid <= 0) {
1658                 Logger::info('Contact ID is zero or less than zero.');
1659                 return [];
1660         }
1661
1662         $postarray['contact-id'] = $contactid;
1663
1664         $postarray['verb'] = Activity::POST;
1665         $postarray['author-name'] = $postarray['owner-name'];
1666         $postarray['author-link'] = $postarray['owner-link'];
1667         $postarray['author-avatar'] = $postarray['owner-avatar'];
1668         $postarray['plink'] = "https://twitter.com/" . $post->user->screen_name . "/status/" . $post->id_str;
1669         $postarray['app'] = strip_tags($post->source);
1670
1671         if ($post->user->protected) {
1672                 $postarray['private'] = 1;
1673                 $postarray['allow_cid'] = '<' . $self['id'] . '>';
1674         } else {
1675                 $postarray['private'] = 0;
1676                 $postarray['allow_cid'] = '';
1677         }
1678
1679         if (!empty($post->full_text)) {
1680                 $postarray['body'] = $post->full_text;
1681         } else {
1682                 $postarray['body'] = $post->text;
1683         }
1684
1685         // When the post contains links then use the correct object type
1686         if (count($post->entities->urls) > 0) {
1687                 $postarray['object-type'] = Activity\ObjectType::BOOKMARK;
1688         }
1689
1690         // Search for media links
1691         $picture = twitter_media_entities($post, $postarray);
1692
1693         $converted = twitter_expand_entities($postarray['body'], $post, $picture);
1694         $postarray['body'] = $converted['body'];
1695         $postarray['created'] = DateTimeFormat::utc($post->created_at);
1696         $postarray['edited'] = DateTimeFormat::utc($post->created_at);
1697
1698         if ($uriid > 0) {
1699                 twitter_store_tags($uriid, $converted['taglist']);
1700         }
1701
1702         $statustext = $converted["plain"];
1703
1704         if (!empty($post->place->name)) {
1705                 $postarray["location"] = $post->place->name;
1706         }
1707         if (!empty($post->place->full_name)) {
1708                 $postarray["location"] = $post->place->full_name;
1709         }
1710         if (!empty($post->geo->coordinates)) {
1711                 $postarray["coord"] = $post->geo->coordinates[0] . " " . $post->geo->coordinates[1];
1712         }
1713         if (!empty($post->coordinates->coordinates)) {
1714                 $postarray["coord"] = $post->coordinates->coordinates[1] . " " . $post->coordinates->coordinates[0];
1715         }
1716         if (!empty($post->retweeted_status)) {
1717                 $retweet = twitter_createpost($a, $uid, $post->retweeted_status, $self, false, false, $noquote);
1718
1719                 if (empty($retweet['body'])) {
1720                         return [];
1721                 }
1722
1723                 if (!$noquote) {
1724                         // Store the original tweet
1725                         Item::insert($retweet);
1726
1727                         // CHange the other post into a reshare activity
1728                         $postarray['verb'] = Activity::ANNOUNCE;
1729                         $postarray['gravity'] = GRAVITY_ACTIVITY;
1730                         $postarray['object-type'] = Activity\ObjectType::NOTE;
1731
1732                         $postarray['thr-parent'] = $retweet['uri'];
1733                 } else {
1734                         $retweet['source'] = $postarray['source'];
1735                         $retweet['direction'] = $postarray['direction'];
1736                         $retweet['private'] = $postarray['private'];
1737                         $retweet['allow_cid'] = $postarray['allow_cid'];
1738                         $retweet['contact-id'] = $postarray['contact-id'];
1739                         $retweet['owner-name'] = $postarray['owner-name'];
1740                         $retweet['owner-link'] = $postarray['owner-link'];
1741                         $retweet['owner-avatar'] = $postarray['owner-avatar'];
1742
1743                         $postarray = $retweet;
1744                 }
1745         }
1746
1747         if (!empty($post->quoted_status)) {
1748                 if ($noquote) {
1749                         // To avoid recursive share blocks we just provide the link to avoid removing quote context.
1750                         $postarray['body'] .= "\n\nhttps://twitter.com/" . $post->quoted_status->user->screen_name . "/status/" . $post->quoted_status->id_str;
1751                 } else {
1752                         $quoted = twitter_createpost($a, $uid, $post->quoted_status, $self, false, false, true, $uriid);
1753                         if (!empty($quoted['body'])) {
1754                                 $postarray['body'] .= "\n" . BBCode::getShareOpeningTag(
1755                                                 $quoted['author-name'],
1756                                                 $quoted['author-link'],
1757                                                 $quoted['author-avatar'],
1758                                                 $quoted['plink'],
1759                                                 $quoted['created']
1760                                         );
1761
1762                                 $postarray['body'] .= $quoted['body'] . '[/share]';
1763                         } else {
1764                                 // Quoted post author is blocked/ignored, so we just provide the link to avoid removing quote context.
1765                                 $postarray['body'] .= "\n\nhttps://twitter.com/" . $post->quoted_status->user->screen_name . "/status/" . $post->quoted_status->id_str;
1766                         }
1767                 }
1768         }
1769
1770         return $postarray;
1771 }
1772
1773 /**
1774  * Store tags and mentions
1775  *
1776  * @param integer $uriid
1777  * @param array $taglist
1778  */
1779 function twitter_store_tags(int $uriid, array $taglist)
1780 {
1781         foreach ($taglist as $tag) {
1782                 Tag::storeByHash($uriid, $tag[0], $tag[1], $tag[2]);
1783         }
1784 }
1785
1786 function twitter_fetchparentposts(App $a, $uid, $post, TwitterOAuth $connection, array $self)
1787 {
1788         Logger::info('Fetching parent posts', ['user' => $uid, 'post' => $post->id_str]);
1789
1790         $posts = [];
1791
1792         while (!empty($post->in_reply_to_status_id_str)) {
1793                 try {
1794                         $post = twitter_statuses_show($post->in_reply_to_status_id_str, $connection);
1795                 } catch (TwitterOAuthException $e) {
1796                         Logger::warning('Error fetching parent post', ['uid' => $uid, 'post' => $post->id_str, 'message' => $e->getMessage()]);
1797                         break;
1798                 }
1799
1800                 if (empty($post)) {
1801                         Logger::log("twitter_fetchparentposts: Can't fetch post " . $post->in_reply_to_status_id_str, Logger::DEBUG);
1802                         break;
1803                 }
1804
1805                 if (empty($post->id_str)) {
1806                         Logger::log("twitter_fetchparentposts: This is not a post " . json_encode($post), Logger::DEBUG);
1807                         break;
1808                 }
1809
1810                 if (Post::exists(['uri' => 'twitter::' . $post->id_str, 'uid' => $uid])) {
1811                         break;
1812                 }
1813
1814                 $posts[] = $post;
1815         }
1816
1817         Logger::log("twitter_fetchparentposts: Fetching " . count($posts) . " parents", Logger::DEBUG);
1818
1819         $posts = array_reverse($posts);
1820
1821         if (!empty($posts)) {
1822                 foreach ($posts as $post) {
1823                         $postarray = twitter_createpost($a, $uid, $post, $self, false, !DI::pConfig()->get($uid, 'twitter', 'create_user'), false);
1824
1825                         if (empty($postarray['body'])) {
1826                                 continue;
1827                         }
1828
1829                         $item = Item::insert($postarray);
1830
1831                         $postarray["id"] = $item;
1832
1833                         Logger::log('twitter_fetchparentpost: User ' . $self["nick"] . ' posted parent timeline item ' . $item);
1834                 }
1835         }
1836 }
1837
1838 function twitter_fetchhometimeline(App $a, $uid)
1839 {
1840         $ckey    = DI::config()->get('twitter', 'consumerkey');
1841         $csecret = DI::config()->get('twitter', 'consumersecret');
1842         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
1843         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
1844         $create_user = DI::pConfig()->get($uid, 'twitter', 'create_user');
1845         $mirror_posts = DI::pConfig()->get($uid, 'twitter', 'mirror_posts');
1846
1847         Logger::info('Fetching timeline', ['uid' => $uid]);
1848
1849         $application_name = DI::config()->get('twitter', 'application_name');
1850
1851         if ($application_name == "") {
1852                 $application_name = DI::baseUrl()->getHostname();
1853         }
1854
1855         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
1856
1857         try {
1858                 $own_contact = twitter_fetch_own_contact($a, $uid);
1859         } catch (TwitterOAuthException $e) {
1860                 Logger::warning('Error fetching own contact', ['uid' => $uid, 'message' => $e->getMessage()]);
1861                 return;
1862         }
1863
1864         $r = q("SELECT * FROM `contact` WHERE `id` = %d AND `uid` = %d LIMIT 1",
1865                 intval($own_contact),
1866                 intval($uid));
1867
1868         if (DBA::isResult($r)) {
1869                 $own_id = $r[0]["nick"];
1870         } else {
1871                 Logger::warning('Own twitter contact not found', ['uid' => $uid]);
1872                 return;
1873         }
1874
1875         $self = User::getOwnerDataById($uid);
1876         if ($self === false) {
1877                 Logger::warning('Own contact not found', ['uid' => $uid]);
1878                 return;
1879         }
1880
1881         $parameters = ["exclude_replies" => false, "trim_user" => false, "contributor_details" => true, "include_rts" => true, "tweet_mode" => "extended", "include_ext_alt_text" => true];
1882         //$parameters["count"] = 200;
1883         // Fetching timeline
1884         $lastid = DI::pConfig()->get($uid, 'twitter', 'lasthometimelineid');
1885
1886         $first_time = ($lastid == "");
1887
1888         if ($lastid != "") {
1889                 $parameters["since_id"] = $lastid;
1890         }
1891
1892         try {
1893                 $items = $connection->get('statuses/home_timeline', $parameters);
1894         } catch (TwitterOAuthException $e) {
1895                 Logger::warning('Error fetching home timeline', ['uid' => $uid, 'message' => $e->getMessage()]);
1896                 return;
1897         }
1898
1899         if (!is_array($items)) {
1900                 Logger::warning('home timeline is no array', ['items' => $items]);
1901                 return;
1902         }
1903
1904         if (empty($items)) {
1905                 Logger::notice('No new timeline content', ['uid' => $uid]);
1906                 return;
1907         }
1908
1909         $posts = array_reverse($items);
1910
1911         Logger::notice('Processing timeline', ['lastid' => $lastid, 'uid' => $uid, 'count' => count($posts)]);
1912
1913         if (count($posts)) {
1914                 foreach ($posts as $post) {
1915                         if ($post->id_str > $lastid) {
1916                                 $lastid = $post->id_str;
1917                                 DI::pConfig()->set($uid, 'twitter', 'lasthometimelineid', $lastid);
1918                         }
1919
1920                         if ($first_time) {
1921                                 continue;
1922                         }
1923
1924                         if (stristr($post->source, $application_name) && $post->user->screen_name == $own_id) {
1925                                 Logger::info("Skip previously sent post");
1926                                 continue;
1927                         }
1928
1929                         if ($mirror_posts && $post->user->screen_name == $own_id && $post->in_reply_to_status_id_str == "") {
1930                                 Logger::info("Skip post that will be mirrored");
1931                                 continue;
1932                         }
1933
1934                         if ($post->in_reply_to_status_id_str != "") {
1935                                 twitter_fetchparentposts($a, $uid, $post, $connection, $self);
1936                         }
1937
1938                         Logger::log('Preparing post ' . $post->id_str . ' for user ' . $uid, Logger::DEBUG);
1939
1940                         $postarray = twitter_createpost($a, $uid, $post, $self, $create_user, true, false);
1941
1942                         if (empty($postarray['body']) || trim($postarray['body']) == "") {
1943                                 Logger::log('Empty body for post ' . $post->id_str . ' and user ' . $uid, Logger::DEBUG);
1944                                 continue;
1945                         }
1946
1947                         $notify = false;
1948
1949                         if (empty($postarray['thr-parent'])) {
1950                                 $contact = DBA::selectFirst('contact', [], ['id' => $postarray['contact-id'], 'self' => false]);
1951                                 if (DBA::isResult($contact) && Item::isRemoteSelf($contact, $postarray)) {
1952                                         $notify = PRIORITY_MEDIUM;
1953                                 }
1954                         }
1955
1956                         $item = Item::insert($postarray, $notify);
1957                         $postarray["id"] = $item;
1958
1959                         Logger::log('User ' . $uid . ' posted home timeline item ' . $item);
1960                 }
1961         }
1962         DI::pConfig()->set($uid, 'twitter', 'lasthometimelineid', $lastid);
1963
1964         Logger::log('Last timeline ID for user ' . $uid . ' is now ' . $lastid, Logger::DEBUG);
1965
1966         // Fetching mentions
1967         $lastid = DI::pConfig()->get($uid, 'twitter', 'lastmentionid');
1968
1969         $first_time = ($lastid == "");
1970
1971         if ($lastid != "") {
1972                 $parameters["since_id"] = $lastid;
1973         }
1974
1975         try {
1976                 $items = $connection->get('statuses/mentions_timeline', $parameters);
1977         } catch (TwitterOAuthException $e) {
1978                 Logger::warning('Error fetching mentions', ['uid' => $uid, 'message' => $e->getMessage()]);
1979                 return;
1980         }
1981
1982         if (!is_array($items)) {
1983                 Logger::warning("mentions are no arrays", ['items' => $items]);
1984                 return;
1985         }
1986
1987         $posts = array_reverse($items);
1988
1989         Logger::log("Fetching mentions for user " . $uid . " " . sizeof($posts) . " items", Logger::DEBUG);
1990
1991         if (count($posts)) {
1992                 foreach ($posts as $post) {
1993                         if ($post->id_str > $lastid) {
1994                                 $lastid = $post->id_str;
1995                         }
1996
1997                         if ($first_time) {
1998                                 continue;
1999                         }
2000
2001                         if ($post->in_reply_to_status_id_str != "") {
2002                                 twitter_fetchparentposts($a, $uid, $post, $connection, $self);
2003                         }
2004
2005                         $postarray = twitter_createpost($a, $uid, $post, $self, false, !$create_user, false);
2006
2007                         if (empty($postarray['body'])) {
2008                                 continue;
2009                         }
2010
2011                         $item = Item::insert($postarray);
2012
2013                         Logger::log('User ' . $uid . ' posted mention timeline item ' . $item);
2014                 }
2015         }
2016
2017         DI::pConfig()->set($uid, 'twitter', 'lastmentionid', $lastid);
2018
2019         Logger::log('Last mentions ID for user ' . $uid . ' is now ' . $lastid, Logger::DEBUG);
2020 }
2021
2022 function twitter_fetch_own_contact(App $a, $uid)
2023 {
2024         $ckey    = DI::config()->get('twitter', 'consumerkey');
2025         $csecret = DI::config()->get('twitter', 'consumersecret');
2026         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
2027         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
2028
2029         $own_id = DI::pConfig()->get($uid, 'twitter', 'own_id');
2030
2031         $contact_id = 0;
2032
2033         if ($own_id == "") {
2034                 $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
2035
2036                 // Fetching user data
2037                 // get() may throw TwitterOAuthException, but we will catch it later
2038                 $user = $connection->get('account/verify_credentials');
2039                 if (empty($user->id_str)) {
2040                         return false;
2041                 }
2042
2043                 DI::pConfig()->set($uid, 'twitter', 'own_id', $user->id_str);
2044
2045                 $contact_id = twitter_fetch_contact($uid, $user, true);
2046         } else {
2047                 $r = q("SELECT * FROM `contact` WHERE `uid` = %d AND `alias` = '%s' LIMIT 1",
2048                         intval($uid),
2049                         DBA::escape("twitter::" . $own_id));
2050                 if (DBA::isResult($r)) {
2051                         $contact_id = $r[0]["id"];
2052                 } else {
2053                         DI::pConfig()->delete($uid, 'twitter', 'own_id');
2054                 }
2055         }
2056
2057         return $contact_id;
2058 }
2059
2060 function twitter_is_retweet(App $a, $uid, $body)
2061 {
2062         $body = trim($body);
2063
2064         // Skip if it isn't a pure repeated messages
2065         // Does it start with a share?
2066         if (strpos($body, "[share") > 0) {
2067                 return false;
2068         }
2069
2070         // Does it end with a share?
2071         if (strlen($body) > (strrpos($body, "[/share]") + 8)) {
2072                 return false;
2073         }
2074
2075         $attributes = preg_replace("/\[share(.*?)\]\s?(.*?)\s?\[\/share\]\s?/ism", "$1", $body);
2076         // Skip if there is no shared message in there
2077         if ($body == $attributes) {
2078                 return false;
2079         }
2080
2081         $link = "";
2082         preg_match("/link='(.*?)'/ism", $attributes, $matches);
2083         if (!empty($matches[1])) {
2084                 $link = $matches[1];
2085         }
2086
2087         preg_match('/link="(.*?)"/ism', $attributes, $matches);
2088         if (!empty($matches[1])) {
2089                 $link = $matches[1];
2090         }
2091
2092         $id = preg_replace("=https?://twitter.com/(.*)/status/(.*)=ism", "$2", $link);
2093         if ($id == $link) {
2094                 return false;
2095         }
2096         return twitter_retweet($uid, $id);
2097 }
2098
2099 function twitter_retweet(int $uid, int $id, int $item_id = 0)
2100 {
2101         Logger::info('Retweeting', ['user' => $uid, 'id' => $id]);
2102
2103         $ckey    = DI::config()->get('twitter', 'consumerkey');
2104         $csecret = DI::config()->get('twitter', 'consumersecret');
2105         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
2106         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
2107
2108         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
2109         $result = $connection->post('statuses/retweet/' . $id);
2110
2111         Logger::info('Retweeted', ['user' => $uid, 'id' => $id, 'result' => $result]);
2112
2113         if (!empty($item_id) && !empty($result->id_str)) {
2114                 Logger::notice('Update extid', ['id' => $item_id, 'extid' => $result->id_str]);
2115                 Item::update(['extid' => "twitter::" . $result->id_str], ['id' => $item_id]);
2116         }
2117
2118         return !isset($result->errors);
2119 }
2120
2121 function twitter_update_mentions($body)
2122 {
2123         $URLSearchString = "^\[\]";
2124         $return = preg_replace_callback(
2125                 "/@\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
2126                 function ($matches) {
2127                         if (strpos($matches[1], 'twitter.com')) {
2128                                 $return = '@' . substr($matches[1], strrpos($matches[1], '/') + 1);
2129                         } else {
2130                                 $return = $matches[2] . ' (' . $matches[1] . ')';
2131                         }
2132
2133                         return $return;
2134                 },
2135                 $body
2136         );
2137
2138         return $return;
2139 }
2140
2141 function twitter_convert_share(array $attributes, array $author_contact, $content, $is_quote_share)
2142 {
2143         if (empty($author_contact)) {
2144                 return $content . "\n\n" . $attributes['link'];
2145         }
2146
2147         if (!empty($author_contact['network']) && ($author_contact['network'] == Protocol::TWITTER)) {
2148                 $mention = '@' . $author_contact['nick'];
2149         } else {
2150                 $mention = $author_contact['addr'];
2151         }
2152
2153         return ($is_quote_share ? "\n\n" : '' ) . 'RT ' . $mention . ': ' . $content . "\n\n" . $attributes['link'];
2154 }