]> git.mxchange.org Git - friendica.git/blob - include/network.php
Merge pull request #2669 from annando/1607-new-probe
[friendica.git] / include / network.php
1 <?php
2
3 /**
4  * @file include/network.php
5  */
6
7 require_once("include/xml.php");
8 require_once('include/Probe.php');
9
10 /**
11  * @brief Curl wrapper
12  * 
13  * If binary flag is true, return binary results.
14  * Set the cookiejar argument to a string (e.g. "/tmp/friendica-cookies.txt")
15  * to preserve cookies from one request to the next.
16  * 
17  * @param string $url URL to fetch
18  * @param boolean $binary default false
19  *    TRUE if asked to return binary results (file download)
20  * @param integer $redirects The recursion counter for internal use - default 0
21  * @param integer $timeout Timeout in seconds, default system config value or 60 seconds
22  * @param string $accept_content supply Accept: header with 'accept_content' as the value
23  * @param string $cookiejar Path to cookie jar file
24  * 
25  * @return string The fetched content
26  */
27 function fetch_url($url,$binary = false, &$redirects = 0, $timeout = 0, $accept_content=Null, $cookiejar = 0) {
28
29         $ret = z_fetch_url(
30                 $url,
31                 $binary,
32                 $redirects,
33                 array('timeout'=>$timeout,
34                 'accept_content'=>$accept_content,
35                 'cookiejar'=>$cookiejar
36                 ));
37
38         return($ret['body']);
39 }
40
41 /**
42  * @brief fetches an URL.
43  *
44  * @param string $url URL to fetch
45  * @param boolean $binary default false
46  *    TRUE if asked to return binary results (file download)
47  * @param int $redirects The recursion counter for internal use - default 0
48  * @param array $opts (optional parameters) assoziative array with:
49  *    'accept_content' => supply Accept: header with 'accept_content' as the value
50  *    'timeout' => int Timeout in seconds, default system config value or 60 seconds
51  *    'http_auth' => username:password
52  *    'novalidate' => do not validate SSL certs, default is to validate using our CA list
53  *    'nobody' => only return the header
54  *    'cookiejar' => path to cookie jar file
55  *
56  * @return array an assoziative array with:
57  *    int 'return_code' => HTTP return code or 0 if timeout or failure
58  *    boolean 'success' => boolean true (if HTTP 2xx result) or false
59  *    string 'redirect_url' => in case of redirect, content was finally retrieved from this URL
60  *    string 'header' => HTTP headers
61  *    string 'body' => fetched content
62  */
63 function z_fetch_url($url,$binary = false, &$redirects = 0, $opts=array()) {
64
65         $ret = array('return_code' => 0, 'success' => false, 'header' => "", 'body' => "");
66
67
68         $stamp1 = microtime(true);
69
70         $a = get_app();
71
72         $ch = @curl_init($url);
73         if(($redirects > 8) || (! $ch))
74                 return false;
75
76         @curl_setopt($ch, CURLOPT_HEADER, true);
77
78         if(x($opts,"cookiejar")) {
79                 curl_setopt($ch, CURLOPT_COOKIEJAR, $opts["cookiejar"]);
80                 curl_setopt($ch, CURLOPT_COOKIEFILE, $opts["cookiejar"]);
81         }
82
83 // These settings aren't needed. We're following the location already.
84 //      @curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);
85 //      @curl_setopt($ch, CURLOPT_MAXREDIRS, 5);
86
87         if (x($opts,'accept_content')){
88                 curl_setopt($ch,CURLOPT_HTTPHEADER, array (
89                         "Accept: " . $opts['accept_content']
90                 ));
91         }
92
93         @curl_setopt($ch, CURLOPT_RETURNTRANSFER,true);
94         @curl_setopt($ch, CURLOPT_USERAGENT, $a->get_useragent());
95
96
97
98         if(x($opts,'headers')){
99                 @curl_setopt($ch, CURLOPT_HTTPHEADER, $opts['headers']);
100         }
101         if(x($opts,'nobody')){
102                 @curl_setopt($ch, CURLOPT_NOBODY, $opts['nobody']);
103         }
104         if(x($opts,'timeout')){
105                 @curl_setopt($ch, CURLOPT_TIMEOUT, $opts['timeout']);
106         } else {
107                 $curl_time = intval(get_config('system','curl_timeout'));
108                 @curl_setopt($ch, CURLOPT_TIMEOUT, (($curl_time !== false) ? $curl_time : 60));
109         }
110
111         // by default we will allow self-signed certs
112         // but you can override this
113
114         $check_cert = get_config('system','verifyssl');
115         @curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, (($check_cert) ? true : false));
116         @curl_setopt($ch, CURLOPT_SSL_VERIFYHOST, (($check_cert) ? 2 : false));
117
118         $prx = get_config('system','proxy');
119         if(strlen($prx)) {
120                 @curl_setopt($ch, CURLOPT_HTTPPROXYTUNNEL, 1);
121                 @curl_setopt($ch, CURLOPT_PROXY, $prx);
122                 $prxusr = @get_config('system','proxyuser');
123                 if(strlen($prxusr))
124                         @curl_setopt($ch, CURLOPT_PROXYUSERPWD, $prxusr);
125         }
126         if($binary)
127                 @curl_setopt($ch, CURLOPT_BINARYTRANSFER,1);
128
129         $a->set_curl_code(0);
130
131         // don't let curl abort the entire application
132         // if it throws any errors.
133
134         $s = @curl_exec($ch);
135         if (curl_errno($ch) !== CURLE_OK) {
136                 logger('fetch_url error fetching '.$url.': '.curl_error($ch), LOGGER_NORMAL);
137         }
138
139         $base = $s;
140         $curl_info = @curl_getinfo($ch);
141
142         $http_code = $curl_info['http_code'];
143         logger('fetch_url '.$url.': '.$http_code." ".$s, LOGGER_DATA);
144         $header = '';
145
146         // Pull out multiple headers, e.g. proxy and continuation headers
147         // allow for HTTP/2.x without fixing code
148
149         while(preg_match('/^HTTP\/[1-2].+? [1-5][0-9][0-9]/',$base)) {
150                 $chunk = substr($base,0,strpos($base,"\r\n\r\n")+4);
151                 $header .= $chunk;
152                 $base = substr($base,strlen($chunk));
153         }
154
155         $a->set_curl_code($http_code);
156         $a->set_curl_content_type($curl_info['content_type']);
157         $a->set_curl_headers($header);
158
159         if($http_code == 301 || $http_code == 302 || $http_code == 303 || $http_code == 307) {
160                 $new_location_info = @parse_url($curl_info["redirect_url"]);
161                 $old_location_info = @parse_url($curl_info["url"]);
162
163                 $newurl = $curl_info["redirect_url"];
164
165                 if (($new_location_info["path"] == "") AND ($new_location_info["host"] != ""))
166                         $newurl = $new_location_info["scheme"]."://".$new_location_info["host"].$old_location_info["path"];
167
168                 $matches = array();
169                 if (preg_match('/(Location:|URI:)(.*?)\n/i', $header, $matches)) {
170                         $newurl = trim(array_pop($matches));
171                 }
172                 if(strpos($newurl,'/') === 0)
173                         $newurl = $old_location_info["scheme"]."://".$old_location_info["host"].$newurl;
174                 if (filter_var($newurl, FILTER_VALIDATE_URL)) {
175                         $redirects++;
176                         @curl_close($ch);
177                         return z_fetch_url($newurl,$binary, $redirects, $opts);
178                 }
179         }
180
181
182         $a->set_curl_code($http_code);
183         $a->set_curl_content_type($curl_info['content_type']);
184
185         $body = substr($s,strlen($header));
186
187
188
189         $rc = intval($http_code);
190         $ret['return_code'] = $rc;
191         $ret['success'] = (($rc >= 200 && $rc <= 299) ? true : false);
192         $ret['redirect_url'] = $url;
193         if(! $ret['success']) {
194                 $ret['error'] = curl_error($ch);
195                 $ret['debug'] = $curl_info;
196                 logger('z_fetch_url: error: ' . $url . ': ' . $ret['error'], LOGGER_DEBUG);
197                 logger('z_fetch_url: debug: ' . print_r($curl_info,true), LOGGER_DATA);
198         }
199         $ret['body'] = substr($s,strlen($header));
200         $ret['header'] = $header;
201         if(x($opts,'debug')) {
202                 $ret['debug'] = $curl_info;
203         }
204         @curl_close($ch);
205
206         $a->save_timestamp($stamp1, "network");
207
208         return($ret);
209
210 }
211
212 // post request to $url. $params is an array of post variables.
213
214 /**
215  * @brief Post request to $url
216  * 
217  * @param string $url URL to post
218  * @param mixed $params
219  * @param string $headers HTTP headers
220  * @param integer $redirects Recursion counter for internal use - default = 0
221  * @param integer $timeout The timeout in seconds, default system config value or 60 seconds
222  * 
223  * @return string The content
224  */
225 function post_url($url,$params, $headers = null, &$redirects = 0, $timeout = 0) {
226         $stamp1 = microtime(true);
227
228         $a = get_app();
229         $ch = curl_init($url);
230         if(($redirects > 8) || (! $ch))
231                 return false;
232
233         logger("post_url: start ".$url, LOGGER_DATA);
234
235         curl_setopt($ch, CURLOPT_HEADER, true);
236         curl_setopt($ch, CURLOPT_RETURNTRANSFER,true);
237         curl_setopt($ch, CURLOPT_POST,1);
238         curl_setopt($ch, CURLOPT_POSTFIELDS,$params);
239         curl_setopt($ch, CURLOPT_USERAGENT, $a->get_useragent());
240
241         if(intval($timeout)) {
242                 curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);
243         }
244         else {
245                 $curl_time = intval(get_config('system','curl_timeout'));
246                 curl_setopt($ch, CURLOPT_TIMEOUT, (($curl_time !== false) ? $curl_time : 60));
247         }
248
249         if(defined('LIGHTTPD')) {
250                 if(!is_array($headers)) {
251                         $headers = array('Expect:');
252                 } else {
253                         if(!in_array('Expect:', $headers)) {
254                                 array_push($headers, 'Expect:');
255                         }
256                 }
257         }
258         if($headers)
259                 curl_setopt($ch, CURLOPT_HTTPHEADER, $headers);
260
261         $check_cert = get_config('system','verifyssl');
262         curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, (($check_cert) ? true : false));
263         curl_setopt($ch, CURLOPT_SSL_VERIFYHOST, (($check_cert) ? 2 : false));
264         $prx = get_config('system','proxy');
265         if(strlen($prx)) {
266                 curl_setopt($ch, CURLOPT_HTTPPROXYTUNNEL, 1);
267                 curl_setopt($ch, CURLOPT_PROXY, $prx);
268                 $prxusr = get_config('system','proxyuser');
269                 if(strlen($prxusr))
270                         curl_setopt($ch, CURLOPT_PROXYUSERPWD, $prxusr);
271         }
272
273         $a->set_curl_code(0);
274
275         // don't let curl abort the entire application
276         // if it throws any errors.
277
278         $s = @curl_exec($ch);
279
280         $base = $s;
281         $curl_info = curl_getinfo($ch);
282         $http_code = $curl_info['http_code'];
283
284         logger("post_url: result ".$http_code." - ".$url, LOGGER_DATA);
285
286         $header = '';
287
288         // Pull out multiple headers, e.g. proxy and continuation headers
289         // allow for HTTP/2.x without fixing code
290
291         while(preg_match('/^HTTP\/[1-2].+? [1-5][0-9][0-9]/',$base)) {
292                 $chunk = substr($base,0,strpos($base,"\r\n\r\n")+4);
293                 $header .= $chunk;
294                 $base = substr($base,strlen($chunk));
295         }
296
297         if($http_code == 301 || $http_code == 302 || $http_code == 303 || $http_code == 307) {
298                 $matches = array();
299                 preg_match('/(Location:|URI:)(.*?)\n/', $header, $matches);
300                 $newurl = trim(array_pop($matches));
301                 if(strpos($newurl,'/') === 0)
302                         $newurl = $old_location_info["scheme"] . "://" . $old_location_info["host"] . $newurl;
303                 if (filter_var($newurl, FILTER_VALIDATE_URL)) {
304                         $redirects++;
305                         logger("post_url: redirect ".$url." to ".$newurl);
306                         return post_url($newurl,$params, $headers, $redirects, $timeout);
307                         //return fetch_url($newurl,false,$redirects,$timeout);
308                 }
309         }
310         $a->set_curl_code($http_code);
311         $body = substr($s,strlen($header));
312
313         $a->set_curl_headers($header);
314
315         curl_close($ch);
316
317         $a->save_timestamp($stamp1, "network");
318
319         logger("post_url: end ".$url, LOGGER_DATA);
320
321         return($body);
322 }
323
324 // Generic XML return
325 // Outputs a basic dfrn XML status structure to STDOUT, with a <status> variable
326 // of $st and an optional text <message> of $message and terminates the current process.
327
328 function xml_status($st, $message = '') {
329
330         $xml_message = ((strlen($message)) ? "\t<message>" . xmlify($message) . "</message>\r\n" : '');
331
332         if($st)
333                 logger('xml_status returning non_zero: ' . $st . " message=" . $message);
334
335         header( "Content-type: text/xml" );
336         echo '<?xml version="1.0" encoding="UTF-8"?>'."\r\n";
337         echo "<result>\r\n\t<status>$st</status>\r\n$xml_message</result>\r\n";
338         killme();
339 }
340
341
342 /**
343  * @brief Send HTTP status header and exit.
344  *
345  * @param integer $val HTTP status result value
346  * @param array $description optional message
347  *    'title' => header title
348  *    'description' => optional message
349  */
350
351 function http_status_exit($val, $description = array()) {
352         $err = '';
353         if($val >= 400) {
354                 $err = 'Error';
355                 if (!isset($description["title"]))
356                         $description["title"] = $err." ".$val;
357         }
358         if($val >= 200 && $val < 300)
359                 $err = 'OK';
360
361         logger('http_status_exit ' . $val);
362         header($_SERVER["SERVER_PROTOCOL"] . ' ' . $val . ' ' . $err);
363
364         if (isset($description["title"])) {
365                 $tpl = get_markup_template('http_status.tpl');
366                 echo replace_macros($tpl, array('$title' => $description["title"],
367                                                 '$description' => $description["description"]));
368         }
369
370         killme();
371
372 }
373
374 /**
375  * @brief Check URL to se if ts's real
376  * 
377  * Take a URL from the wild, prepend http:// if necessary
378  * and check DNS to see if it's real (or check if is a valid IP address)
379  * 
380  * @param string $url The URL to be validated
381  * @return boolean True if it's a valid URL, fals if something wrong with it
382  */
383 function validate_url(&$url) {
384
385         if(get_config('system','disable_url_validation'))
386                 return true;
387         // no naked subdomains (allow localhost for tests)
388         if(strpos($url,'.') === false && strpos($url,'/localhost/') === false)
389                 return false;
390         if(substr($url,0,4) != 'http')
391                 $url = 'http://' . $url;
392         $h = @parse_url($url);
393
394         if(($h) && (dns_get_record($h['host'], DNS_A + DNS_CNAME + DNS_PTR) || filter_var($h['host'], FILTER_VALIDATE_IP) )) {
395                 return true;
396         }
397         return false;
398 }
399
400 /**
401  * @brief Checks that email is an actual resolvable internet address
402  * 
403  * @param string $addr The email address
404  * @return boolean True if it's a valid email address, false if it's not
405  */
406 function validate_email($addr) {
407
408         if(get_config('system','disable_email_validation'))
409                 return true;
410
411         if(! strpos($addr,'@'))
412                 return false;
413         $h = substr($addr,strpos($addr,'@') + 1);
414
415         if(($h) && (dns_get_record($h, DNS_A + DNS_CNAME + DNS_PTR + DNS_MX) || filter_var($h, FILTER_VALIDATE_IP) )) {
416                 return true;
417         }
418         return false;
419 }
420
421 /**
422  * @brief Check if URL is allowed
423  * 
424  * Check $url against our list of allowed sites,
425  * wildcards allowed. If allowed_sites is unset return true;
426  * 
427  * @param string $url URL which get tested
428  * @return boolean True if url is allowed otherwise return false
429  */
430 function allowed_url($url) {
431
432         $h = @parse_url($url);
433
434         if(! $h) {
435                 return false;
436         }
437
438         $str_allowed = get_config('system','allowed_sites');
439         if(! $str_allowed)
440                 return true;
441
442         $found = false;
443
444         $host = strtolower($h['host']);
445
446         // always allow our own site
447
448         if($host == strtolower($_SERVER['SERVER_NAME']))
449                 return true;
450
451         $fnmatch = function_exists('fnmatch');
452         $allowed = explode(',',$str_allowed);
453
454         if(count($allowed)) {
455                 foreach($allowed as $a) {
456                         $pat = strtolower(trim($a));
457                         if(($fnmatch && fnmatch($pat,$host)) || ($pat == $host)) {
458                                 $found = true;
459                                 break;
460                         }
461                 }
462         }
463         return $found;
464 }
465
466 /**
467  * @brief Check if email address is allowed to register here.
468  * 
469  * Compare against our list (wildcards allowed).
470  * 
471  * @param type $email
472  * @return boolean False if not allowed, true if allowed
473  *    or if allowed list is not configured
474  */
475 function allowed_email($email) {
476
477
478         $domain = strtolower(substr($email,strpos($email,'@') + 1));
479         if(! $domain)
480                 return false;
481
482         $str_allowed = get_config('system','allowed_email');
483         if(! $str_allowed)
484                 return true;
485
486         $found = false;
487
488         $fnmatch = function_exists('fnmatch');
489         $allowed = explode(',',$str_allowed);
490
491         if(count($allowed)) {
492                 foreach($allowed as $a) {
493                         $pat = strtolower(trim($a));
494                         if(($fnmatch && fnmatch($pat,$domain)) || ($pat == $domain)) {
495                                 $found = true;
496                                 break;
497                         }
498                 }
499         }
500         return $found;
501 }
502
503 function avatar_img($email) {
504
505         $a = get_app();
506
507         $avatar['size'] = 175;
508         $avatar['email'] = $email;
509         $avatar['url'] = '';
510         $avatar['success'] = false;
511
512         call_hooks('avatar_lookup', $avatar);
513
514         if(! $avatar['success'])
515                 $avatar['url'] = $a->get_baseurl() . '/images/person-175.jpg';
516
517         logger('Avatar: ' . $avatar['email'] . ' ' . $avatar['url'], LOGGER_DEBUG);
518         return $avatar['url'];
519 }
520
521
522 function parse_xml_string($s,$strict = true) {
523         /// @todo Move this function to the xml class
524         if($strict) {
525                 if(! strstr($s,'<?xml'))
526                         return false;
527                 $s2 = substr($s,strpos($s,'<?xml'));
528         }
529         else
530                 $s2 = $s;
531         libxml_use_internal_errors(true);
532
533         $x = @simplexml_load_string($s2);
534         if(! $x) {
535                 logger('libxml: parse: error: ' . $s2, LOGGER_DATA);
536                 foreach(libxml_get_errors() as $err)
537                         logger('libxml: parse: ' . $err->code." at ".$err->line.":".$err->column." : ".$err->message, LOGGER_DATA);
538                 libxml_clear_errors();
539         }
540         return $x;
541 }
542
543 function scale_external_images($srctext, $include_link = true, $scale_replace = false) {
544
545         // Suppress "view full size"
546         if (intval(get_config('system','no_view_full_size')))
547                 $include_link = false;
548
549         $a = get_app();
550
551         // Picture addresses can contain special characters
552         $s = htmlspecialchars_decode($srctext);
553
554         $matches = null;
555         $c = preg_match_all('/\[img.*?\](.*?)\[\/img\]/ism',$s,$matches,PREG_SET_ORDER);
556         if($c) {
557                 require_once('include/Photo.php');
558                 foreach($matches as $mtch) {
559                         logger('scale_external_image: ' . $mtch[1]);
560
561                         $hostname = str_replace('www.','',substr($a->get_baseurl(),strpos($a->get_baseurl(),'://')+3));
562                         if(stristr($mtch[1],$hostname))
563                                 continue;
564
565                         // $scale_replace, if passed, is an array of two elements. The
566                         // first is the name of the full-size image. The second is the
567                         // name of a remote, scaled-down version of the full size image.
568                         // This allows Friendica to display the smaller remote image if
569                         // one exists, while still linking to the full-size image
570                         if($scale_replace)
571                                 $scaled = str_replace($scale_replace[0], $scale_replace[1], $mtch[1]);
572                         else
573                                 $scaled = $mtch[1];
574                         $i = @fetch_url($scaled);
575                         if(! $i)
576                                 return $srctext;
577
578                         // guess mimetype from headers or filename
579                         $type = guess_image_type($mtch[1],true);
580
581                         if($i) {
582                                 $ph = new Photo($i, $type);
583                                 if($ph->is_valid()) {
584                                         $orig_width = $ph->getWidth();
585                                         $orig_height = $ph->getHeight();
586
587                                         if($orig_width > 640 || $orig_height > 640) {
588
589                                                 $ph->scaleImage(640);
590                                                 $new_width = $ph->getWidth();
591                                                 $new_height = $ph->getHeight();
592                                                 logger('scale_external_images: ' . $orig_width . '->' . $new_width . 'w ' . $orig_height . '->' . $new_height . 'h' . ' match: ' . $mtch[0], LOGGER_DEBUG);
593                                                 $s = str_replace($mtch[0],'[img=' . $new_width . 'x' . $new_height. ']' . $scaled . '[/img]'
594                                                         . "\n" . (($include_link)
595                                                                 ? '[url=' . $mtch[1] . ']' . t('view full size') . '[/url]' . "\n"
596                                                                 : ''),$s);
597                                                 logger('scale_external_images: new string: ' . $s, LOGGER_DEBUG);
598                                         }
599                                 }
600                         }
601                 }
602         }
603
604         // replace the special char encoding
605         $s = htmlspecialchars($s,ENT_NOQUOTES,'UTF-8');
606         return $s;
607 }
608
609
610 function fix_contact_ssl_policy(&$contact,$new_policy) {
611
612         $ssl_changed = false;
613         if((intval($new_policy) == SSL_POLICY_SELFSIGN || $new_policy === 'self') && strstr($contact['url'],'https:')) {
614                 $ssl_changed = true;
615                 $contact['url']     =   str_replace('https:','http:',$contact['url']);
616                 $contact['request'] =   str_replace('https:','http:',$contact['request']);
617                 $contact['notify']  =   str_replace('https:','http:',$contact['notify']);
618                 $contact['poll']    =   str_replace('https:','http:',$contact['poll']);
619                 $contact['confirm'] =   str_replace('https:','http:',$contact['confirm']);
620                 $contact['poco']    =   str_replace('https:','http:',$contact['poco']);
621         }
622
623         if((intval($new_policy) == SSL_POLICY_FULL || $new_policy === 'full') && strstr($contact['url'],'http:')) {
624                 $ssl_changed = true;
625                 $contact['url']     =   str_replace('http:','https:',$contact['url']);
626                 $contact['request'] =   str_replace('http:','https:',$contact['request']);
627                 $contact['notify']  =   str_replace('http:','https:',$contact['notify']);
628                 $contact['poll']    =   str_replace('http:','https:',$contact['poll']);
629                 $contact['confirm'] =   str_replace('http:','https:',$contact['confirm']);
630                 $contact['poco']    =   str_replace('http:','https:',$contact['poco']);
631         }
632
633         if($ssl_changed) {
634                 q("update contact set
635                         url = '%s',
636                         request = '%s',
637                         notify = '%s',
638                         poll = '%s',
639                         confirm = '%s',
640                         poco = '%s'
641                         where id = %d limit 1",
642                         dbesc($contact['url']),
643                         dbesc($contact['request']),
644                         dbesc($contact['notify']),
645                         dbesc($contact['poll']),
646                         dbesc($contact['confirm']),
647                         dbesc($contact['poco']),
648                         intval($contact['id'])
649                 );
650         }
651 }
652
653 function original_url($url, $depth=1, $fetchbody = false) {
654
655         $a = get_app();
656
657         // Remove Analytics Data from Google and other tracking platforms
658         $urldata = parse_url($url);
659         if (is_string($urldata["query"])) {
660                 $query = $urldata["query"];
661                 parse_str($query, $querydata);
662
663                 if (is_array($querydata))
664                         foreach ($querydata AS $param=>$value)
665                                 if (in_array($param, array("utm_source", "utm_medium", "utm_term", "utm_content", "utm_campaign",
666                                                         "wt_mc", "pk_campaign", "pk_kwd", "mc_cid", "mc_eid",
667                                                         "fb_action_ids", "fb_action_types", "fb_ref",
668                                                         "awesm", "wtrid",
669                                                         "woo_campaign", "woo_source", "woo_medium", "woo_content", "woo_term"))) {
670
671                                         $pair = $param."=".urlencode($value);
672                                         $url = str_replace($pair, "", $url);
673
674                                         // Second try: if the url isn't encoded completely
675                                         $pair = $param."=".str_replace(" ", "+", $value);
676                                         $url = str_replace($pair, "", $url);
677
678                                         // Third try: Maybey the url isn't encoded at all
679                                         $pair = $param."=".$value;
680                                         $url = str_replace($pair, "", $url);
681
682                                         $url = str_replace(array("?&", "&&"), array("?", ""), $url);
683                                 }
684
685                 if (substr($url, -1, 1) == "?")
686                         $url = substr($url, 0, -1);
687         }
688
689         if ($depth > 10)
690                 return($url);
691
692         $url = trim($url, "'");
693
694         $stamp1 = microtime(true);
695
696         $siteinfo = array();
697         $ch = curl_init();
698         curl_setopt($ch, CURLOPT_URL, $url);
699         curl_setopt($ch, CURLOPT_HEADER, 1);
700         curl_setopt($ch, CURLOPT_NOBODY, 1);
701         curl_setopt($ch, CURLOPT_TIMEOUT, 10);
702         curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
703         curl_setopt($ch, CURLOPT_USERAGENT, $a->get_useragent());
704
705         $header = curl_exec($ch);
706         $curl_info = @curl_getinfo($ch);
707         $http_code = $curl_info['http_code'];
708         curl_close($ch);
709
710         $a->save_timestamp($stamp1, "network");
711
712         if ($http_code == 0)
713                 return($url);
714
715         if ((($curl_info['http_code'] == "301") OR ($curl_info['http_code'] == "302"))
716                 AND (($curl_info['redirect_url'] != "") OR ($curl_info['location'] != ""))) {
717                 if ($curl_info['redirect_url'] != "")
718                         return(original_url($curl_info['redirect_url'], ++$depth, $fetchbody));
719                 else
720                         return(original_url($curl_info['location'], ++$depth, $fetchbody));
721         }
722
723         // Check for redirects in the meta elements of the body if there are no redirects in the header.
724         if (!$fetchbody)
725                 return(original_url($url, ++$depth, true));
726
727         // if the file is too large then exit
728         if ($curl_info["download_content_length"] > 1000000)
729                 return($url);
730
731         // if it isn't a HTML file then exit
732         if (($curl_info["content_type"] != "") AND !strstr(strtolower($curl_info["content_type"]),"html"))
733                 return($url);
734
735         $stamp1 = microtime(true);
736
737         $ch = curl_init();
738         curl_setopt($ch, CURLOPT_URL, $url);
739         curl_setopt($ch, CURLOPT_HEADER, 0);
740         curl_setopt($ch, CURLOPT_NOBODY, 0);
741         curl_setopt($ch, CURLOPT_TIMEOUT, 10);
742         curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
743         curl_setopt($ch, CURLOPT_USERAGENT, $a->get_useragent());
744
745         $body = curl_exec($ch);
746         curl_close($ch);
747
748         $a->save_timestamp($stamp1, "network");
749
750         if (trim($body) == "")
751                 return($url);
752
753         // Check for redirect in meta elements
754         $doc = new DOMDocument();
755         @$doc->loadHTML($body);
756
757         $xpath = new DomXPath($doc);
758
759         $list = $xpath->query("//meta[@content]");
760         foreach ($list as $node) {
761                 $attr = array();
762                 if ($node->attributes->length)
763                         foreach ($node->attributes as $attribute)
764                                 $attr[$attribute->name] = $attribute->value;
765
766                 if (@$attr["http-equiv"] == 'refresh') {
767                         $path = $attr["content"];
768                         $pathinfo = explode(";", $path);
769                         $content = "";
770                         foreach ($pathinfo AS $value)
771                                 if (substr(strtolower($value), 0, 4) == "url=")
772                                         return(original_url(substr($value, 4), ++$depth));
773                 }
774         }
775
776         return($url);
777 }
778
779 function short_link($url) {
780         require_once('library/slinky.php');
781         $slinky = new Slinky($url);
782         $yourls_url = get_config('yourls','url1');
783         if ($yourls_url) {
784                 $yourls_username = get_config('yourls','username1');
785                 $yourls_password = get_config('yourls', 'password1');
786                 $yourls_ssl = get_config('yourls', 'ssl1');
787                 $yourls = new Slinky_YourLS();
788                 $yourls->set('username', $yourls_username);
789                 $yourls->set('password', $yourls_password);
790                 $yourls->set('ssl', $yourls_ssl);
791                 $yourls->set('yourls-url', $yourls_url);
792                 $slinky->set_cascade( array($yourls, new Slinky_UR1ca(), new Slinky_Trim(), new Slinky_IsGd(), new Slinky_TinyURL()));
793         } else {
794                 // setup a cascade of shortening services
795                 // try to get a short link from these services
796                 // in the order ur1.ca, trim, id.gd, tinyurl
797                 $slinky->set_cascade(array(new Slinky_UR1ca(), new Slinky_Trim(), new Slinky_IsGd(), new Slinky_TinyURL()));
798         }
799         return $slinky->short();
800 }
801
802 /**
803  * @brief Encodes content to json
804  * 
805  * This function encodes an array to json format
806  * and adds an application/json HTTP header to the output.
807  * After finishing the process is getting killed.
808  *
809  * @param array $x The input content
810  */
811 function json_return_and_die($x) {
812         header("content-type: application/json");
813         echo json_encode($x);
814         killme();
815 }
816
817 /**
818  * @brief Find the matching part between two url
819  *
820  * @param string $url1
821  * @param string $url2
822  * @return string The matching part
823  */
824 function matching_url($url1, $url2) {
825
826         if (($url1 == "") OR ($url2 == ""))
827                 return "";
828
829         $url1 = normalise_link($url1);
830         $url2 = normalise_link($url2);
831
832         $parts1 = parse_url($url1);
833         $parts2 = parse_url($url2);
834
835         if (!isset($parts1["host"]) OR !isset($parts2["host"]))
836                 return "";
837
838         if ($parts1["scheme"] != $parts2["scheme"])
839                 return "";
840
841         if ($parts1["host"] != $parts2["host"])
842                 return "";
843
844         if ($parts1["port"] != $parts2["port"])
845                 return "";
846
847         $match = $parts1["scheme"]."://".$parts1["host"];
848
849         if ($parts1["port"])
850                 $match .= ":".$parts1["port"];
851
852         $pathparts1 = explode("/", $parts1["path"]);
853         $pathparts2 = explode("/", $parts2["path"]);
854
855         $i = 0;
856         $path = "";
857         do {
858                 $path1 = $pathparts1[$i];
859                 $path2 = $pathparts2[$i];
860
861                 if ($path1 == $path2)
862                         $path .= $path1."/";
863
864         } while (($path1 == $path2) AND ($i++ <= count($pathparts1)));
865
866         $match .= $path;
867
868         return normalise_link($match);
869 }