Ergebnis 1 bis 13 von 13

Thema: Release-Informationen per IMDB-ID

Baum-Darstellung

  1. #8
    THEMENSTARTER

    Avatar von syrius
    Registriert
    Mar 2015
    Beiträge
    2,124
    Gefällt mir!
    1,234
    Du gefällst: 2,814
    Wurde mal noch um Socks5 Proxy für Abfragen der Schnittstellen erweitert

    Code:
        proxy_user=""
        proxy_pass=""
        proxy_host=""
        proxy_port=""
        if ([ -n "${proxy_user}" ] && [ -n "${proxy_pass}" ] && [ -n "${proxy_host}" ] && [ -n "${proxy_port}" ]); then
    ​        PROXY_IF="-U ${proxy_user}:${proxy_pass} --socks5 ${proxy_host}:${proxy_port}"
        else
    ​        unset PROXY_IF
        fi
    Die Variable "PROXY_IF" darf hinter cURL ruhig stehen bleiben - sofern sie gefüllt ist, werden die Daten über den Socks geleitet - andernfalls ist kein Proxy aktiv. Sinnig ist es natürlich die Proxy-Daten vor Aufruf einzulesen und nicht manuell hier innerhalb der Funktion anzupassen - das wurde lediglich zum Verständnis aufgenommen.

    Arbeite sehr gern mit einer Proxy-Rotation. Zum Beispiel wenn man auf einem Server mehrere Adressen hat und diese per ipTables in Rotation laufen lässt. So kann ein Funktionsaufruf über die eine IP raus gehen, der nächste über die andere, usw... Nutze dazu "mocks proxy", adde dann meine IP-Adressen auf dem Server. cURL spricht mit mocks und durch die ipTable-Rotation geht er immer über eine andere IP raus. Man kann natürlich auch einen Crawler schreiben der diverse Proxy-Seiten einliest, die Proxies vor Absetzen des Funktionsaufrufs checkt und dann einen derer nutzt... möglich ist alles

    Sowas geht natürlich auch prima mit dem TOR-Netzwerk. So habe ich mir ein TOR-Relay aufgesetzt und habe ihn für meine IP-Adresse als SOCKS freigegeben. Damit lässt sich dann auch einfach arbeiten. Ein kleiner Cronjob der auf den TOR-Server ein reload macht (neue IP beziehen), und host:port für cURL verwenden. Ist natürlich gerade beim verschieben von großen Dateien aufgrund der geringen Bandbreite/schlechten Routings... untauglich.. aber möglich. Zuvor findet natürlich ein "uptime check" des Hosts statt ob der Proxy nicht beim Host gesperrt ist... wenn doch kann man in einer Schleife ein reload machen bis es durch geht.

  2. Diesen Mitgliedern gefällt dieser Beitrag:


Ähnliche Themen

  1. (BASH) - Crawler IMDB-ID by Release-Name / Dirname xrel.to srrdb.com
    Von syrius im Forum Entwicklung / Programmierung
    Antworten: 2
    Letzter Beitrag: 14.07.2019, 20:36
  2. GOOLE SEO (Meta Informationen) einer grösseren Website automatisieren?
    Von Guest im Forum Webmaster Daily Talk & OffTopic
    Antworten: 2
    Letzter Beitrag: 19.07.2017, 10:31
  3. imdb puling (IMDb: 7.4/10)
    Von murat im Forum IntelligeN
    Antworten: 8
    Letzter Beitrag: 02.06.2017, 21:51
  4. (Suche) - Coder / Informationen / Virtuelles Empfangssystem!
    Von TheLab im Forum Entwickler / IT-Techniker
    Antworten: 0
    Letzter Beitrag: 17.12.2015, 17:23
  5. [TuT] Private Informationen aus einem Bild entfernen
    Von Celv im Forum Tutorials & Papers
    Antworten: 4
    Letzter Beitrag: 10.04.2015, 16:16

Berechtigungen

  • Neue Themen erstellen: Nein
  • Themen beantworten: Nein
  • Anhänge hochladen: Nein
  • Beiträge bearbeiten: Nein
  •  
SzeneBox.org... im Mittelpunkt der Szene!
© since 2015 szeneBOX.org - All Rights Reserved
Domains: www.szenebox.org