Zum Inhalt springen
Zurück zum Blog

Die besten kostenlosen Proxy-Listen für Web-Scraping, nach Rangfolge (2026)

Robert MunceanuZuletzt aktualisiert am 23 min read
Die besten kostenlosen Proxy-Listen für Web-Scraping, nach Rangfolge (2026)
Kurzfassung: Die besten kostenlosen Proxy-Listen für Web-Scraping sind die Liste von ProxyScrape für Skripte, die von Geonode für Verfügbarkeit und ASN-Filter und monosans/proxy-list auf GitHub als Klartext-Feed für Pipelines. Behandeln Sie jede Liste als Pool von Kandidaten, denn nur ein kleiner Teil der gelisteten Proxys funktioniert an einem bestimmten Tag, und senden Sie niemals Logins oder Zahlungsseiten über einen kostenlosen Proxy.

Kostenlose Proxy-Listen sind der Ausgangspunkt für die meisten Scraper – ganz gleich, ob Sie einen Proxy-Scraper oder ein kurzes Python-Skript damit füttern. Im Folgenden finden Sie eine Rangliste der kostenlosen Proxy-Seiten, die einen Besuch wert sind, zusammen mit den jeweiligen geeigneten Scraping-Aufgaben und einem klaren Hinweis darauf, wann sich kostenlose Proxys nicht mehr lohnen. Rechnen Sie damit, dass die meisten Einträge fehlschlagen werden. Laut einer 30-monatigen Studie zu kostenlosen Proxy-Diensten funktioniert an einem beliebigen Tag nur ein kleiner Teil der aufgeführten Proxys. Betrachten Sie jede Liste als einen Pool von Kandidaten und nicht als eine Sammlung funktionierender Proxys. Sind Sie schon bereit zu zahlen? Unser Leitfaden zur Auswahl von Proxys für das Web-Scraping vergleicht kostenpflichtige Anbieter nach Aufgabe und Kosten.

Die besten kostenlosen Proxy-Listen nach Aufgabe

  • Beste kostenlose Gesamtliste für Skripte: Die kostenlose Proxy-Liste von ProxyScrape
  • Am besten für Qualitätsfilter (Verfügbarkeit, ASN): Die kostenlose Proxy-Liste von Geonode
  • Bester Klartext-Feed für Pipelines: monosans/proxy-list auf GitHub
  • Am besten für eine schnelle manuelle Auswahl: Free Proxy List
  • Bester kostenloser Tarif mit bekanntem Betreiber: Der kostenlose Tarif von Webshare
  • Nicht geeignet für: Anmeldungen, Zahlungsseiten oder alles, was ein Fremder nicht lesen sollte

Wie haben wir diese kostenlosen Proxy-Listen bewertet?

Wir haben jede kostenlose Proxy-Website anhand der Informationen bewertet, die sie über sich selbst veröffentlicht: wie oft die Proxys überprüft werden, ob man die Liste als Klartext, JSON oder über eine API ohne Anmeldung abrufen kann, wie viele Daten jeder Eintrag enthält und ob es Warnzeichen wie veraltete Überprüfungen, CDN-Adressen oder kostenpflichtige Exporte gibt. Wir haben keinen Datenverkehr über die aufgeführten Proxys geleitet.

Wir haben die jeweilige Seite jeder Website anhand von fünf Kriterien bewertet:

Kriterium

Was bringt Punkte

Was kostet Punkte

Aktualität

Ein angegebenes Überprüfungsintervall in Minuten und ein sichtbarer Hinweis „Zuletzt überprüft“ pro Zeile

Tägliche Aktualisierungen oder Überprüfungszeitstempel, die viele Stunden zurückliegen

Export ohne Registrierung

Klartext, JSON, CSV oder eine API-URL, kostenlos und ohne Konto

Nur Kopieren und Einfügen, skriptgesteuerte Schnittstellen oder kostenpflichtiger Export

Daten pro Eintrag

Protokoll, Anonymität, HTTPS-Unterstützung, Verfügbarkeit, Latenz, Netzwerkbetreiber (ASN)

Nur IP und Port

Listenbereinigung

Zeilen, die wie echte Proxys auf erwarteten Ports aussehen

Veraltete Zeilen oder als Proxys aufgeführte CDN-Adressen

Transparenz des Betreibers

Ein namentlich genannter Betreiber, eine angegebene Prüfmethode, keine Installationsprogramme

Seiten mit vielen Werbeanzeigen, VPN-Trichter oder auszuführende Downloads

Zwei Entscheidungskriterien gaben den Ausschlag bei knappen Ergebnissen. Ein gefilterter, maschinenlesbarer Feed ist einer Webtabelle überlegen, und eine im Rahmen der 30-monatigen Studie erfasste Liste erhält einen leichten Pluspunkt. Das bedeutet lediglich, dass die Forscher es für sinnvoll hielten, Daten daraus zu sammeln – nicht, dass sie sicher wäre.

Jede Liste verwendet dieselben Bezeichnungen. Ein „Elite-Proxy“ verbirgt sowohl Ihre IP-Adresse als auch die Tatsache, dass Sie einen Proxy nutzen. Ein anonymer Proxy verbirgt Ihre IP-Adresse, gibt sich jedoch über Header zu erkennen. Ein transparenter Proxy leitet Ihre echte IP-Adresse weiter, was ihn für das Scraping unbrauchbar macht. HTTP-Proxys leiten einfache Webanfragen weiter, HTTPS-fähige Proxys können einen verschlüsselten Tunnel öffnen, und SOCKS4- sowie SOCKS5-Proxys leiten Rohverbindungen für nahezu jeden Client weiter. MDN erklärt, wie Proxy-Server und Tunneling funktionieren, und unsere Übersicht über Proxy-Typen für das Scraping umfasst HTTP, SOCKS5, Residential- und Rechenzentrums-Proxys.

Kostenlose Listen ändern sich stündlich, betrachten Sie daher jeden Eintrag unten als Momentaufnahme. Jede Angabe zu einer Website entspricht der eigenen Aussage dieser Website.

Was sind die besten kostenlosen Proxy-Listen für das Web-Scraping?

Die besten kostenlosen Proxy-Listen für das Web-Scraping sind die kostenlose Liste von ProxyScrape für gefilterte API-Feeds, Geonode für Verfügbarkeits- und ASN-Filter, monosans/proxy-list auf GitHub für stündlich überprüfte Klartextdateien sowie die „Free Proxy List“ für eine schnelle manuelle Auswahl. Jede kostenlose Liste muss dennoch getestet werden, da die meisten Einträge an einem bestimmten Tag nicht funktionieren.

#

Kostenlose Proxy-Liste

Format

Status der Seiten aktualisieren

Kostenloser Export

Am besten geeignet für

1

Kostenlose Liste von ProxyScrape

Webtabelle + kostenlose API + GitHub-Spiegel

Jede Minute

TXT, JSON, CSV, API

Gefilterte Feeds für Skripte

2

Kostenlose Geonode-Liste

Webtabelle + URL-Lader

Abfragen jede Minute (die Seite zeigt auch ~23 Min. an)

Download, URL

Filterung nach Betriebszeit und ASN

3

monosans/proxy-list

GitHub-Dateien

Stündlich

TXT, JSON

Pipelines und CI

4

Kostenlose Proxy-Liste

Webtabelle + Rohdatenliste

Alle 10 Minuten

Rohliste

Schnelle manuelle Auswahl

5

Proxifly-Liste mit kostenlosen Proxys

GitHub-Dateien + npm

Alle 5 Minuten

TXT, JSON

Protokoll-spezifisches Volumen

6

Spys.one

Webtabelle + Textliste

„Echtzeit“

Textliste

Surfen nach Land und anonym

7

ProxyNova

Webtabelle

Alle 60 Sekunden (die meisten wurden alle 15 Minuten getestet)

Keine

Geschwindigkeit und Verfügbarkeit nach Land

8

ProxyDB

Web-Tabelle

Keine Angabe

Keine

Verfügbarkeitsverlauf

9

hide.mn

Web-Tabelle

Keine Angabe

Nur kostenpflichtig

Anonymitätsfilter im Browser

10

FreeProxy.World

Web-Tabelle

Keine Angabe

Keine

IP-Überprüfung

1. Kostenlose Proxy-Liste von ProxyScrape

Am besten geeignet für: Skripte, die regelmäßig eine gefilterte Liste benötigen.

Warum sie hier aufgeführt ist: Laut Angaben der Website wird die Liste jede Minute aktualisiert und durch automatisierte Prüfprogramme verifiziert; sie umfasst HTTP, HTTPS, SOCKS4 und SOCKS5. Sie können nach Protokoll, Anonymität, Land und Latenz filtern und die Liste anschließend als TXT-, JSON- oder CSV-Datei exportieren, eine kostenlose öffentliche API aufrufen oder sie von einem GitHub-Mirror abrufen. In der 30-monatigen Studie war ProxyScrape eine der beiden größten Quellen für einzigartige Proxys und eine der beiden mit den meisten Proxys, die beim ersten Test funktionierten.

Einschränkungen: Die Angaben zu Umfang und Ländern auf der Seite ändern sich ständig. Die Tabelle wird per JavaScript geladen; nutzen Sie daher die API, anstatt die Seite zu scrapen.

Risikohinweise: Wie jede Liste hier fasst sie offene Proxys aus öffentlichen Quellen zusammen. ProxyScrape verkauft auch kostenpflichtige Proxys und bewirbt diese auf der Seite. Möchten Sie stattdessen auf kostenpflichtige Tarife umsteigen? Erfahren Sie, wie Sie einen Ersatz für ProxyScrape auswählen.

2. Kostenlose Proxy-Liste von Geonode

Am besten geeignet für: die Auswahl von Proxys anhand von Qualitätsmerkmalen.

Warum es hier aufgeführt ist: Geonode veröffentlicht die umfangreichsten Daten pro Eintrag in dieser Sammlung: Protokoll, Anonymität, Verfügbarkeitsprozentsatz, Zeitpunkt der letzten Überprüfung, Geschwindigkeit, Latenz, ein „Google passed“-Flag sowie den Netzwerkbetreiber als ORG und ASN. Sie können nach Verfügbarkeitsbereichen filtern und die Aktualität prüfen, um dann die gefilterte Liste über eine URL zu laden, anstatt Zeilen zu kopieren. Die Zeilen wirkten zudem übersichtlich. Geonode war 2023 Teil des Anbietersatzes der 30-monatigen Studie.

Einschränkungen: Der Seitentitel besagt, dass die Liste jede Minute aktualisiert wird, doch auf derselben Seite wurde auch schon die Überschrift „Zuletzt aktualisiert vor 23 Min.“ angezeigt. Betrachten Sie Angaben zur Aktualität daher als ungefähre Werte.

Risikohinweise: Geonode ist ein kommerzieller Anbieter, und die kostenlose Liste befindet sich direkt neben kostenpflichtigen Angeboten für Privatanwender. Die ASN-Spalte ist Ihr bester Schutz: Entfernen Sie Einträge aus Netzwerken, die Sie nicht erwarten, wie beispielsweise einen „Privatanwender“-Proxy, der bei einem Hosting-Anbieter gehostet wird.

3. monosans/proxy-list (GitHub)

Am besten geeignet für: CI-Jobs und Pipelines, die einfache Dateien benötigen.

Warum sie hier aufgeführt ist: Laut README muss ein Proxy eine echte URL vollständig abrufen, um in die Liste aufgenommen zu werden, und die Liste wird stündlich neu überprüft. Es veröffentlicht HTTP-, SOCKS4- und SOCKS5-Proxys als Klartext und als JSON, sortiert nach Geschwindigkeit (von schnell nach langsam), mit Antwortzeit, Ausgangs-IP, ASN und Geolokalisierung für jeden Eintrag. Es ist keine Registrierung und kein API-Schlüssel erforderlich, und das Projekt steht unter der MIT-Lizenz.

Einschränkungen: Die stündliche Aktualisierung ist langsamer als die oben genannten Listen auf Minutenebene. Da das Projekt von einem einzigen Entwickler gepflegt wird, gibt es keine Servicegarantie, falls die Aktualisierungen eingestellt werden.

Risikohinweise: Lade die Klartext- oder JSON-Dateien ausschließlich über HTTPS herunter. Führe niemals Code aus einem Proxy-Repository aus, den du nicht gelesen hast.

4. Free Proxy List (free-proxy-list.net)

Am besten geeignet für: eine schnelle manuelle Auswahl für einen einmaligen Test.

Warum es hier aufgeführt ist: Die Website gibt an, dass ihre kostenlosen Proxys „gerade erst überprüft und alle 10 Minuten aktualisiert“ werden, und jede Zeile zeigt Anonymität, HTTPS-Unterstützung, ein Google-Flag und den Zeitpunkt der letzten Überprüfung an. Eine Rohdatei ermöglicht es, alles auf einmal zu kopieren. Die Einträge sahen wie echte Proxys auf normalen Ports aus, und „Free Proxy List“ war während des gesamten Untersuchungszeitraums von 30 Monaten im Anbietersatz der Studie enthalten.

Einschränkungen: Die Liste ist stark auf HTTP ausgerichtet. Der Download der App oder API ist an ein kostenpflichtiges „Proxy-Liste“-Produkt gebunden, sodass die Automatisierung umständlicher ist als bei den oben genannten Feeds.

Risikohinweise: Die Menüs der Website bewerben kostenpflichtige Proxys und andere Tools. Nutzen Sie die Tabelle und die Rohdatenliste und lassen Sie den Rest außer Acht.

5. Proxifly free-proxy-list (GitHub)

Am besten geeignet für: Dateien mit großem Datenvolumen, aufgeschlüsselt nach Protokoll (HTTP, HTTPS, SOCKS4, SOCKS5).

Warum es hier aufgeführt ist: Laut README ruft das Projekt alle 5 Minuten Proxys ab, überprüft deren Gültigkeit und sortiert sie nach Protokoll und Land in separate Dateien, sodass du beispielsweise nur SOCKS5-Proxys abrufen kannst. Es enthält außerdem ein npm-Modul für Node.js-Projekte.

Einschränkungen: Die im README angegebene Anzahl „funktionierender“ Proxys liegt weit über der Zahl, die laut Untersuchungen an einem typischen Tag tatsächlich funktionieren. Betrachten Sie diese Zahl daher als Anzahl der gesammelten Proxys und nicht als Anzahl der Proxys, die Sie tatsächlich nutzen können.

Risikohinweise: Der Code steht unter der GPL-3.0-Lizenz. Lesen Sie die Lizenz, bevor Sie das npm-Modul in ein kommerzielles Produkt integrieren, und laden Sie die Datendateien ausschließlich über HTTPS herunter.

6. Spys.one

Am besten geeignet für: Suche nach Land, Port und Anonymität.

Warum es hier aufgeführt ist: Spys.one verfügt über einige der detailliertesten Filter aller kostenlosen Listen. Sie können nur Elite-, anonyme oder transparente Proxys anzeigen lassen, nach Land und Port filtern und in jeder Zeile die Verfügbarkeit sowie das Datum der letzten Überprüfung einsehen. Die Seite zeigt eine Server-Aktualisierungszeit an, bezeichnet ihre Listen als „in Echtzeit aktualisiert“ und bietet eine Klartextversion an.

Einschränkungen: Die Ports werden per Skript gerendert, sodass sich die Seite nur schwer automatisieren lässt, und die Benutzeroberfläche ist veraltet und unübersichtlich.

Risikohinweise: Spys.one bietet eine spezielle Liste offener Proxys auf MikroTik-Routern an. Die 30-monatige Studie ergab, dass MikroTik-Software auf Zehntausenden von Proxy-IPs installiert war, von denen viele wahrscheinlich gekaperte Router waren. Den Einsatz Ihres Scrapers über einen kompromittierten Router eines anderen ist ein ethisches Problem, nicht nur eine Frage der Geschwindigkeit oder Zuverlässigkeit. Überspringen Sie diese Liste vollständig.

7. ProxyNova

Am besten geeignet für: die Überprüfung von Geschwindigkeit und Verfügbarkeit nach Ländern vor einem manuellen Test.

Warum es hier aufgeführt ist: Auf der Seite heißt es, dass die Liste alle 60 Sekunden aktualisiert wird und dass die meisten Proxys mindestens einmal alle 15 Minuten getestet werden. Jede Zeile zeigt Geschwindigkeit, Verfügbarkeit, Anonymität, Land und den Zeitpunkt der letzten Überprüfung an.

Einschränkungen: Die IP-Adressen werden per Skript ausgegeben und es gibt keine Exportfunktion, sodass du sie von Hand kopieren musst. Viele der angezeigten Zeilen wiesen niedrige Verfügbarkeitsprozentsätze auf.

Risikohinweise: ProxyNova ist eine Website mit Allzweck-Tools. Ignorieren Sie die nicht zum Thema gehörenden Downloads.

8. ProxyDB

Am besten geeignet für: durchschnittliche Verfügbarkeit und Verlauf der Antwortzeiten.

Warum es hier rangiert: ProxyDB verfügt über übersichtliche Filter für HTTP, HTTPS, SOCKS5, Anonymität und Land. Die Spalten zeigen die durchschnittliche Verfügbarkeit und die durchschnittliche Antwortzeit anstelle einer einzelnen Momentaufnahme an, was dir hilft, Proxys zu erkennen, die schon eine Weile in Betrieb sind.

Einschränkungen: Die meisten der angezeigten „geprüften“ Zeitpunkte lagen bereits viele Stunden zurück. Das ist für das Scraping zu veraltet, es sei denn, du überprüfst jeden Eintrag selbst erneut.

Risikohinweise: Es handelt sich um einen kleinen Betreiber ohne angegebene Prüfmethode, daher lässt sich nicht feststellen, was „geprüft“ hier bedeutet.

9. hide.mn (ehemals hidemy.name)

Am besten geeignet für: das Filtern nach Anonymitätsgrad im Browser.

Warum es hier aufgeführt ist: Die Website gibt an, Proxys auf Ping, Typ, Land, Verbindungsgeschwindigkeit, Anonymität und Verfügbarkeit zu prüfen, und dank ihrer Filter lässt sich ganz einfach nur der gewünschte Anonymitätsgrad anzeigen. Es war unter seinem alten Namen, HideMyName, im Anbietersatz der 30-monatigen Studie enthalten.

Einschränkungen: Laut Angaben der Website erfordern der Export von IP:Port-Daten sowie der API-Zugriff ein kostenpflichtiges Abonnement, sodass die kostenlose Version nur eine Webtabelle umfasst. Ein großer Teil der sichtbaren kostenlosen Einträge befand sich in den von Cloudflare veröffentlichten IP-Bereichen, meist auf gängigen Web-Ports. Es ist unwahrscheinlich, dass es sich bei diesen Adressen um echte offene Proxys handelt.

Risikohinweise: Bei dem Unternehmen handelt es sich um einen VPN-Anbieter, und die kostenlose Liste dient als Trichter, um Nutzer dorthin zu leiten. hidemy.name leitet nun auf hide.mn weiter.

10. FreeProxy.World

Am besten geeignet für: eine zweite Meinung bei der Überprüfung einer IP-Adresse.

Warum es hier rangiert: Es bietet umfangreiche Filter nach Typ, Anonymität, Geschwindigkeit und Port und gibt an, über eine große Anzahl an Proxys zu verfügen.

Einschränkungen: Ein großer Teil der sichtbaren Einträge bestand aus Adressen aus dem Cloudflare-Bereich auf Port 80, bei denen es sich wahrscheinlich nicht um echte offene Proxys handelt, was die Qualität der Liste auf das unterste Niveau dieser Gruppe drückt.

Risikohinweise: VPN-Angebote und Anzeigen für „Premium-Zugang“ befinden sich neben der Tabelle. Klicken Sie nicht darauf.

Listen, die wir weggelassen haben. Open Proxy Space war nicht verfügbar, und mehrere ehemals beliebte Listen leiten nun auf themenfremde Seiten weiter oder lassen sich nicht laden. Die TheSpeedX/PROXY-List auf GitHub wird täglich aktualisiert, und ihr Betreuer gibt an, nicht für die Proxys verantwortlich zu sein. Sie eignet sich gut zum Üben, ist aber für echte Aufgaben zu veraltet.

Welche kostenlose Proxy-Liste sollten Sie für Ihren Scraping-Auftrag verwenden?

Passen Sie die Liste an den jeweiligen Auftrag an. Verwende einen GitHub-Text-Feed oder die API von ProxyScrape, wenn ein Skript regelmäßig neue Proxys benötigt, Geonode oder Spys.one, wenn du einen Länder- oder Anonymitätsfilter benötigst, und die „Free Proxy List“ für einen einmaligen manuellen Test. Für Anmeldungen, wiederkehrende Aufgaben oder schwierige Ziele eignet sich keine kostenlose Liste.

Auftrag

Beste Wahl

Zweitplatzierter

Warum

Ein Skript, das die Proxys vor jedem Lauf aktualisiert

Kostenlose ProxyScrape-Liste (API)

monosans/proxy-list

Maschinenlesbar, filterbar, regelmäßige Überprüfungen

Länderspezifischer Test

Geonode

Spys.one

Länderfilter sowie Verfügbarkeit und Aktualität

SOCKS5 für einen Client, der dies benötigt

Proxifly

Geonode

Nach Protokollen getrennte Dateien und Filter

Schnelle manuelle Überprüfung einer öffentlichen Seite

Kostenlose Proxy-Liste

ProxyNova

HTTPS- und „Zuletzt geprüft“-Spalten auf einen Blick

Proxy-Einstellungen im Code erlernen

Webshare-Gratis-Tarif

Beliebige Liste + der unten stehende Checker

Stabile IPs – Fehler liegen also an Ihrem Code, nicht am Proxy

Ein echtes Ziel ohne Proxy-Konfiguration testen

Scraper-API

—

Proxys, Wiederholungsversuche und Rendering werden für Sie übernommen

Anmeldungen, Zahlungen, wiederkehrende Produktionsaufträge

Keine kostenlose Liste

—

Stattdessen bezahlen (siehe letzten Abschnitt)

Headless-Browser wie Playwright und Puppeteer verschlimmern die Situation noch. Die meisten kostenlosen Proxys unterstützen weder Authentifizierung noch stabile Sitzungen, sodass Sie einen Browserkontext nicht langfristig an eine IP-Adresse binden können. Ein einziger Seitenladevorgang verzweigt sich zudem in Dutzende von Anfragen nach Skripten, Bildern und Schriftarten, die alle über denselben Proxy laufen. Wenn eine davon ins Stocken gerät, bricht die Seite ab, sodass sich die Fehlerraten vervielfachen, anstatt sich auszugleichen.

Gibt es kostenlose Proxy-Angebote, die es wert sind, anstelle von Listen ausprobiert zu werden?

Ja, wenn du Verantwortlichkeit willst, ohne bisher dafür zu bezahlen. Der kostenlose Tarif von Webshare bietet 10 gemeinsam genutzte Proxys und 1 GB monatliche Bandbreite ohne Kreditkartendaten, und unsere eigene Scraper-API-Testversion umfasst 5.000 kostenlose Anfragen, bei denen die Proxys für Sie verwaltet werden. Für beides ist ein Konto erforderlich, aber Sie haben es mit einem bekannten Betreiber zu tun statt mit anonymen Fremden.

Kostenloses Angebot von Webshare. Auf der Preisseite heißt es, dass das kostenlose Angebot 10 gemeinsam genutzte Proxys und 1 GB monatliche Bandbreite umfasst, mit Unterstützung für HTTP und SOCKS5, ohne zeitliche Begrenzung und ohne dass eine Kreditkarte erforderlich ist. Er eignet sich am besten zum Lernen und für einfache Aufgaben, da ein Fehler auf Ihren Code zurückzuführen ist und nicht auf einen ausgefallenen Proxy. Die Grenzen stoßen schnell an ihre Grenzen: 10 IPs und 1 GB reichen nicht weit, und andere Nutzer teilen sich die Proxys.

Kostenlose Testversion der WebScrapingAPI Scraper API. Diese stammt von uns, und die Testversion umfasst 5.000 kostenlose Anfragen. Sie senden eine URL, und die Scraper API kümmert sich um die Proxys, Wiederholungsversuche und das optionale JavaScript-Rendering und gibt dann die Seite zurück. JavaScript-Rendering und Geotargeting kosten keine zusätzlichen Credits, und fehlgeschlagene Anfragen werden nicht in Rechnung gestellt. Nutzen Sie sie, um ein echtes Ziel zu testen, bevor Sie eine Proxy-Infrastruktur aufbauen.

Wir haben die kurzen Testversionen oder Demos kostenpflichtiger Anbieter nicht in die Rangliste aufgenommen, da es sich dabei nicht um kostenlose Proxy-Seiten handelt. Angebote für „kostenlose rotierende Proxys“ sind fast immer ebenfalls Testversionen, da die Rotation einen gepflegten Pool funktionierender IP-Adressen erfordert, dessen Betrieb Geld kostet. Hier erfährst du, wie die IP-Rotation beim Scraping funktioniert, falls du dich für die technischen Details interessierst.

Wie viele Proxys auf einer kostenlosen Liste funktionieren tatsächlich?

Nur ein kleiner Bruchteil. Eine 30-monatige wissenschaftliche Studie mit mehr als 640.000 kostenlosen Proxys von 11 Listen-Websites ergab, dass an einem beliebigen Tag durchschnittlich etwa 3,4 % die Überprüfung bestanden, und HTTPS-fähige Proxys machten im Durchschnitt nur etwa 2,5 % der Anzahl der über HTTP antwortenden Proxys aus. Rechnen Sie damit, die meisten Einträge auf jeder Liste zu verwerfen.

Im Rahmen der 30-monatigen Studie wurden täglich kostenlose Proxys gesammelt und getestet, und das Bild ist nicht durchweg düster. Etwa 30,8 % der Proxys, die mindestens einmal funktionierten, waren über mehr als 100 Tage hinweg aktiv, sodass manche kostenlose Proxys durchaus Bestand haben. Man kann nur nicht im Voraus sagen, welche das sind.

Die Listen überschneiden sich zudem weitaus stärker, als ihre angegebenen Zahlen vermuten lassen. Bei einer groß angelegten Analyse offener HTTP-Proxys stellte sich heraus, dass 144.349 Einträge, die von Listen-Websites gesammelt wurden, lediglich 65.871 eindeutige Proxys darstellten. Websites kopieren aus denselben öffentlichen Quellen, sodass eine höhere Zahl auf einer Homepage nicht bedeutet, dass mehr Proxys funktionieren.

Deshalb legt das Ranking so großen Wert auf Aktualität und Qualität. Eine Liste, die regelmäßig überprüft und unbrauchbare Einträge herausfiltert, erspart dir das Testen nicht mehr funktionierender Einträge, kann aber nichts daran ändern, wie wenige an einem bestimmten Tag tatsächlich funktionieren.

Sind kostenlose Proxys für das Web-Scraping sicher?

Nicht für sensible Inhalte. Der Betreiber eines kostenlosen Proxys kann unverschlüsselten Datenverkehr lesen und ändern, Ihre Anfragen protokollieren sowie Werbung oder Skripte einschleusen; zudem laufen viele kostenlose Proxys auf gekaperten Routern. Verwenden Sie sie nur für öffentliche, nicht sensible Seiten, lassen Sie die Zertifikatsprüfung aktiviert und senden Sie niemals Anmeldedaten, Cookies oder API-Schlüssel über diese Proxys.

Ein Proxy befindet sich in der Mitte jeder Anfrage – genau die richtige Position für einen „Man-in-the-Middle“-Angriff. Bei unverschlüsseltem HTTP sieht der Proxy die gesamte Anfrage und Antwort und kann diese umschreiben. Bei HTTPS nutzt ein ordnungsgemäß funktionierender Proxy die HTTP-CONNECT-Methode, um einen Tunnel zu öffnen, und leitet nur verschlüsselte Bytes weiter. Er kann sehen, welchen Host du besuchst, aber nicht die Seite selbst – vorausgesetzt, dein Client überprüft die Zertifikate.

Die Forschungsergebnisse bestätigen dies. Die NDSS-Studie ergab, dass etwa 38 % der getesteten Proxys Inhalte in irgendeiner Weise veränderten und 5,15 % dies in böswilliger Absicht taten. Von diesen fügten 47 % Werbung ein, 39 % Tracking- oder Fingerprinting-Code und 12 % leiteten auf Malware-Seiten um. Die 30-monatige Studie ergab, dass im Durchschnitt 5,7 % der aktiven Proxys bei jedem Durchlauf veränderte Inhalte zurückgaben, hinzu kamen Tausende bekannter Sicherheitslücken auf den Rechnern hinter den Proxys.

Risiko

Was passiert

So erkennen Sie es

Toter oder veralteter Eintrag

Verbindung abgelehnt oder Zeitüberschreitung

Das Urteil „tot“ des Checkers

IP-Leck (transparenter Proxy)

Die Website sieht weiterhin Ihre echte IP-Adresse

Urteil „leaks_ip“

Nur-HTTP-Proxy

Kein CONNECT, daher schlägt HTTPS fehl

„http_only“-Urteil

Manipulation von Inhalten

Eingebaute Werbung, Tracker oder Weiterleitungen

Urteil: „manipuliert“

Gemeinsam genutzte, missbrauchte IP

Blockierungen, CAPTCHAs oder 403-Fehler

Fehler auf der Zielseite trotz „verwendbar“

Kompromittierter Host

Der Datenverkehr läuft über ein gekapertes Gerät

Von außen nicht überprüfbar; vermeiden Sie sensiblen Datenverkehr

Senden Sie diese niemals über einen kostenlosen Proxy:

  • Anmeldedaten und Passwörter
  • Sitzungs-Cookies
  • API-Schlüssel oder Tokens
  • Zahlungsdaten
  • Personenbezogene Daten über Sie oder andere Personen

Versuchen Sie niemals, verify=False , einen Zertifikatsfehler über einen Proxy zu „beheben“, und führen Sie niemals die ausführbare Datei oder Browser-Erweiterung eines „Checkers“ einer Proxy-Liste aus. Es gibt auch rechtliche und ethische Aspekte: Einige kostenlose Proxys laufen auf Geräten, deren Besitzer niemals zugestimmt haben, Ihren Datenverkehr weiterzuleiten.

Wie testet man eine Liste mit kostenlosen Proxys mit Python?

Senden Sie über jeden Proxy einige kleine Anfragen an einen Test-Endpunkt wie httpbin.org. Überprüfen Sie, ob eine Verbindung hergestellt wird, welche IP-Adresse die Website sieht, welche Header hinzugefügt werden, ob ein HTTPS-Tunnel geöffnet werden kann und ob eine bekannte Seite unverändert zurückkommt. Behalten Sie nur Proxys, die alle Prüfungen bestehen, und testen Sie sie vor jedem Durchlauf erneut.

Richten Sie eine virtuelle Umgebung ein und installieren Sie „Requests“ mit SOCKS-Unterstützung:

python -m venv .venv && source .venv/bin/activate
pip install "requests[socks]"

Speichern Sie dieses Skript als free_proxy_check.py:

#!/usr/bin/env python3
"""Check a free proxy list for dead, leaky, HTTP-only, and tampering proxies."""
import csv
import hashlib
import os
import sys
import time
from concurrent.futures import ThreadPoolExecutor

import requests

BASE = os.environ.get("CHECK_BASE", "http://httpbin.org")
HTTPS_URL = os.environ.get("CHECK_HTTPS_URL", "https://httpbin.org/ip")
TIMEOUT = float(os.environ.get("CHECK_TIMEOUT", "8"))
WORKERS = int(os.environ.get("CHECK_WORKERS", "20"))
PROXY_HEADERS = {"via", "x-forwarded-for", "forwarded", "x-real-ip", "client-ip"}


def new_session(proxy=None):
    s = requests.Session()
    s.trust_env = False  # ignore HTTP(S)_PROXY / NO_PROXY from the shell
    if proxy:
        s.proxies = {"http": proxy, "https": proxy}
    return s


def baseline():
    """What the test server sees with no proxy: our IP and the true page hash."""
    s = new_session()
    my_ip = os.environ.get("CHECK_REAL_IP") or s.get(f"{BASE}/ip", timeout=TIMEOUT).json()["origin"]
    page = s.get(f"{BASE}/html", timeout=TIMEOUT).content
    return my_ip, hashlib.sha256(page).hexdigest()


def check(proxy, my_ip, page_hash):
    row = {"proxy": proxy, "verdict": "dead", "exit_ip": "", "latency_ms": "",
           "https": False, "proxy_headers": "", "tampered": False, "error": ""}
    s = new_session(proxy)
    try:
        start = time.perf_counter()
        r = s.get(f"{BASE}/ip", timeout=TIMEOUT)
        r.raise_for_status()
        row["latency_ms"] = round((time.perf_counter() - start) * 1000)
        row["exit_ip"] = r.json()["origin"]

        seen = s.get(f"{BASE}/headers?show_env=1", timeout=TIMEOUT).json()["headers"]
        added = {k: v for k, v in seen.items() if k.lower() in PROXY_HEADERS}
        row["proxy_headers"] = ";".join(f"{k}={v}" for k, v in added.items())
        leaks_ip = my_ip in row["exit_ip"] or any(my_ip in v for v in added.values())
        # httpbin.org's own load balancer adds one X-Forwarded-For hop; more means the proxy added one
        hops = added.get("X-Forwarded-For", "").count(",") + 1 if "X-Forwarded-For" in added else 0
        reveals = "Via" in added or "Forwarded" in added or hops > 1

        page = s.get(f"{BASE}/html", timeout=TIMEOUT).content
        row["tampered"] = hashlib.sha256(page).hexdigest() != page_hash
    except (requests.RequestException, ValueError, KeyError) as exc:
        row["error"] = type(exc).__name__
        return row

    try:
        row["https"] = s.get(HTTPS_URL, timeout=TIMEOUT).ok
    except requests.RequestException:
        row["https"] = False

    if row["tampered"]:
        row["verdict"] = "tampered"
    elif leaks_ip:
        row["verdict"] = "leaks_ip"
    elif not row["https"]:
        row["verdict"] = "http_only"
    elif reveals:
        row["verdict"] = "reveals_proxy"
    else:
        row["verdict"] = "usable"
    return row


def main(path):
    with open(path) as f:
        proxies = [line.strip() for line in f if line.strip() and not line.startswith("#")]
    proxies = [p if "://" in p else f"http://{p}" for p in proxies]
    my_ip, page_hash = baseline()

    with ThreadPoolExecutor(max_workers=WORKERS) as pool:
        rows = list(pool.map(lambda p: check(p, my_ip, page_hash), proxies))

    writer = csv.DictWriter(sys.stdout, fieldnames=rows[0].keys())
    writer.writeheader()
    writer.writerows(rows)
    usable = sum(r["verdict"] == "usable" for r in rows)
    print(f"{usable}/{len(rows)} proxies usable", file=sys.stderr)


if __name__ == "__main__":
    main(sys.argv[1] if len(sys.argv) > 1 else "proxies.txt")

Das Skript führt nacheinander fünf Prüfungen für jeden Proxy durch:

  1. Verbindung und Latenz. Es sendet eine Anfrage /ip über den Proxy ab und misst die Round-Trip-Zeit. Eine abgelehnte Verbindung oder ein Timeout bedeutet, dass der Proxy nicht funktioniert.
  2. Ausgangs-IP. Es vergleicht die von httpbin.org erkannte IP-Adresse mit Ihrer echten IP-Adresse aus einer direkten Anfrage. Wenn Ihre eigene IP-Adresse angezeigt wird, gibt der Proxy diese preis.
  3. Hinzugefügte Header. Es wird nach vom Proxy hinzugefügten Headern gesucht, wie z. B. „Via“, dem „X-Forwarded-For“-Header und dem Standard-„Forwarded“-Header. Diese verraten, dass sich ein Proxy im Pfad befindet, und enthalten manchmal Ihre echte IP-Adresse.
  4. Seitenintegrität. Hier wird der SHA-256-Hash der von httpbin.org /html Seite, die über den Proxy abgerufen wurde, mit dem eines direkten Abrufs. Jede Abweichung bedeutet, dass der Proxy die Seite verändert hat.
  5. HTTPS über CONNECT. Es wird eine HTTPS-URL über den Proxy angefordert. Wenn der Tunnel fehlschlägt, funktioniert der Proxy nur für reines HTTP.

Tragen Sie Ihre Kandidaten in eine Textdatei ein, jeweils einen pro Zeile. Einträge ohne Schema host:port Einträge werden als HTTP behandelt, und du kannst ein Schema für SOCKS hinzufügen. Die unten aufgeführten Adressen sind reservierte Dokumentations-IPs; ersetze sie daher durch Einträge aus deiner Liste:

# one proxy per line; bare host:port means HTTP
203.0.113.10:8080
http://198.51.100.24:3128
socks5h://192.0.2.55:1080

Führen Sie anschließend den Checker aus:

python free_proxy_check.py proxies.txt > results.csv

Das Skript schreibt pro Proxy eine CSV-Zeile in results.csv und gibt die Anzahl der nutzbaren Proxys aus. Kostenlose Proxys sind langsam; sollten funktionierende Proxys daher immer wieder eine Zeitüberschreitung verursachen, erhöhen Sie die Zeitüberschreitung mit der CHECK_TIMEOUT Umgebungsvariable (in Sekunden).

Fazit

Bedeutung

Behalten?

verwendbar

Verbindung hergestellt, kein IP-Leck, HTTPS-Tunnel funktioniert, Seite unverändert

Ja, für nicht sensible öffentliche Seiten; vor jedem Einsatz erneut testen

reveals_proxy

Funktioniert, fügt jedoch „Via“- oder „Forwarded“-Header hinzu

Nur dort, wo das keine Rolle spielt

http_only

Funktioniert über HTTP, kann HTTPS jedoch nicht tunneln

Nein

leaks_ip

Gibt Ihre echte IP-Adresse an die Website weiter

Nein

manipuliert

Eine modifizierte Seite zurückgegeben

Nein, und die Liste, die sie bereitgestellt hat, nicht mehr verwenden

toter

Abgelehnt, Zeitüberschreitung oder Fehler

Nein

Zwei Einstellungen im Skript sind entscheidend. Verwende socks5h:// anstelle von socks5:// sorgt dafür, dass der Proxy Hostnamen auflöst, wodurch DNS-Abfragen aus Ihrem eigenen Netzwerk ferngehalten werden. Die Einstellung trust_env = False verhindert, dass Requests die Proxy-Einstellungen aus Ihrer Shell übernimmt, sodass jede Überprüfung ausschließlich über den zu testenden Proxy läuft. Die Dokumentation zu Requests-Proxys behandelt beide Aspekte.

Geben Sie dem Checker einen Klartext-Export aus einer der oben genannten Listen ein, z. B. aus der ProxyScrape-API, dem URL-Loader von Geonode oder einer der GitHub-Textdateien. Für Ping, curl, IP-Reputationsdatenbanken und Anonymitätsstufen befolgen Sie unsere sechs praktischen Methoden zum Testen von Proxys. Sind Sie neu im Umgang mit Proxys in „Requests“? Hier erfahren Sie, wie Sie einen Proxy in Python „Requests“ einrichten, einschließlich Authentifizierung und SOCKS5. Wenn ein Proxy mit den Fehlern 407, 502 oder einem abgelehnten CONNECT-Befehl ausfällt, lesen Sie den Proxy-Statusfehler, bevor Sie dem Ziel die Schuld geben.

Wann sollten Sie aufhören, kostenlose Proxys zu nutzen, und stattdessen bezahlen?

Zahlen Sie, wenn die Pflege einer kostenlosen Liste mehr kostet als ein Abonnement. Eindeutige Anzeichen sind wiederkehrende Aufgaben, unvorhersehbare Erfolgsraten, der Bedarf an HTTPS oder einem bestimmten Land, Anmeldungen oder der Zeitaufwand für die wiederholte Überprüfung von Proxys. Wählen Sie Residential-Proxys für schwierige oder lokale Ziele, Rechenzentrums-Proxys für tolerante Websites oder eine Scraping-API, um die Proxy-Pflege zu umgehen.

Situation

Verwendung

Warum

Lernzwecke, einmalige öffentliche Seite

Ein kostenloser Proxy, der den Checker bestanden hat

Keine Kosten; ein Fehlversuch ist kostengünstig

Wiederkehrender Auftrag auf Websites, die IP-Adressen von Rechenzentren tolerieren

Rechenzentrums-Proxys

Vorhersehbarer Durchsatz mit Ihrem eigenen Client

Lokale oder Verbraucher-IPs, Länderausrichtung, Sticky-Sessions

Privathaushalts-Proxys

Höheres Vertrauen und bessere Standortkontrolle

Blockierungen, JavaScript-lastige Seiten oder keine Zeit für die Proxy-Wartung

Eine Scraping-API (Scraper-API)

Proxys, Wiederholungsversuche und Rendering hinter einer einzigen Anfrage

Kostenlose Proxys sind eine gute Möglichkeit zum Lernen. Man sieht, wie Proxy-Einstellungen funktionieren und warum „anonym“ in einer Liste nicht immer anonym bedeutet. Aber eine kostenlose Liste ist nicht wirklich kostenlos. Sie zahlen mit der Zeit, die Sie damit verbringen, die Liste abzurufen und zu testen, Jobs neu auszuführen, die auf halbem Weg abgebrochen sind, und zu überprüfen, ob Ihre Daten unverändert zurückgekommen sind. Sobald diese Zeit mehr wert ist als ein günstiger Tarif, ist „kostenlos“ die teure Option.

Möchten Sie trotzdem eine Liste, nur eben eine zuverlässige? Erfahren Sie, wie kostenpflichtige Proxy-Listen bewertet und ausgewählt werden. Für Verbraucher-IPs und Stadt-Targeting vergleichen Sie die besten Anbieter von rotierenden Residential-Proxys. Für Aufträge mit hohem Datenaufkommen auf toleranten Websites wägen Sie Shared-Proxys gegen dedizierte Rechenzentrums-Proxys ab.

WebScrapingAPI bietet drei kostenpflichtige Optionen an, die der obigen Tabelle entsprechen:

  • Residential-Proxys. Residential-Proxys rotieren standardmäßig, halten „Sticky Sessions“ bis zu 10 Minuten lang aufrecht und akzeptieren HTTP, HTTPS oder SOCKS5.
  • Rechenzentrums-Proxys. Für hohen Durchsatz bei Zielen, die Rechenzentrumsverkehr akzeptieren, nutzen Sie Rechenzentrums-Proxys mit Ihrem eigenen Client. Die Preise werden auf Anfrage angeboten und richten sich nach Ihrem Datenverkehr.
  • Scraper-API. Oder verzichten Sie ganz auf die Proxy-Verwaltung: Die Scraper-API nimmt eine URL entgegen und kümmert sich um Proxys, Wiederholungsversuche und optionales JavaScript-Rendering. JavaScript-Rendering und Geotargeting kosten keine zusätzlichen Credits, und fehlgeschlagene Anfragen werden nicht in Rechnung gestellt.

Hier ist dieselbe Überprüfung von „httpbin.org/ip“ aus dem Tester, gesendet über die Scraper-API mit einem Ausgangsserver in den USA. Legen Sie Ihren API-Schlüssel zunächst in der WSA_API_KEY Umgebungsvariable ein:

import os

import requests

params = {
    "api_key": os.environ["WSA_API_KEY"],
    "url": "https://httpbin.org/ip",
    "country": "us",
}
r = requests.get("https://api.webscrapingapi.com/v2", params=params, timeout=60)
print(r.status_code, r.text[:200])

Häufig gestellte Fragen

Was ist die beste kostenlose Proxy-Seite für Web-Scraping?

Das hängt von der jeweiligen Aufgabe ab. Die kostenlose Liste von ProxyScrape ist der stärkste Allrounder für Skripte, mit Filtern und einer kostenlosen API. Geonode bietet zusätzlich Verfügbarkeits- und Netzwerkdaten, und GitHub-Feeds wie monosans/proxy-list lassen sich am einfachsten automatisieren. Keine davon ist zuverlässig genug für den produktiven Einsatz, daher sollten Sie jeden Proxy zunächst testen.

Sind kostenlose Proxy-Listen sicher in der Nutzung?

Nur für öffentliche, nicht sensible Anfragen. Der Betreiber eines kostenlosen Proxys kann Ihren Datenverkehr protokollieren und alles ändern, was über einfaches HTTP gesendet wird, und Untersuchungen haben ergeben, dass Tausende von kostenlosen Proxys Inhalte einfügen. Lassen Sie die Zertifikatsprüfungen aktiviert, bevorzugen Sie HTTPS-Ziele, senden Sie niemals Anmeldedaten oder API-Schlüssel und testen Sie jeden Proxy, bevor Ihr Scraper darauf zurückgreift.

Wie viele kostenlose Proxys auf einer Liste funktionieren tatsächlich?

In der Regel nur eine kleine Minderheit. In einer 30-monatigen wissenschaftlichen Studie mit mehr als 640.000 kostenlosen Proxys bestanden an einem beliebigen Tag durchschnittlich etwa 3,4 % die Überprüfung. Die Ergebnisse variieren je nach Liste und Uhrzeit; testen Sie daher jeden Proxy unmittelbar vor der Nutzung und rechnen Sie damit, die meisten Einträge zu verwerfen.

Welche kostenlosen Proxy-Listen bieten eine API oder einen Download im Klartext an?

ProxyScrape bietet eine kostenlose öffentliche API sowie Exporte im TXT-, JSON- und CSV-Format, und bei Geonode können Sie eine gefilterte Liste über eine URL laden. GitHub-Projekte wie monosans/proxy-list und Proxifly veröffentlichen Klartextdateien, die Sie direkt abrufen können. Hide.mn bietet den Export und die API nur im Rahmen eines kostenpflichtigen Abonnements an. Rufen Sie Feeds immer über HTTPS ab.

Wie oft sollte ich eine kostenlose Proxy-Liste aktualisieren?

Aktualisieren Sie sie unmittelbar vor jedem Durchlauf. Einige kostenlose Proxys halten monatelang, aber viele verschwinden innerhalb weniger Tage, und man kann im Voraus nicht sagen, welche das sein werden. Selbst eine Liste, die jede Minute neu überprüft wird, kann nicht vorhersagen, wie ein Proxy Ihr Ziel behandeln wird; laden Sie die Liste daher herunter, testen Sie sie und nutzen Sie die noch funktionierenden Proxys sofort.

Gibt es kostenlose HTTPS-Proxys?

Es gibt einige, aber sie sind selten. In der 30-monatigen Studie machten HTTPS-fähige Proxys im Durchschnitt nur etwa 2,5 % der Anzahl der Proxys aus, die über HTTP antworteten. Ein HTTPS-fähiger Proxy unterstützt die CONNECT-Methode, die den Datenverkehr Ende-zu-Ende verschlüsselt tunnelt. Testen Sie dies direkt, da Listenbezeichnungen mit dem Vermerk „HTTPS“ oft falsch oder veraltet sind.

Gibt es kostenlose Proxys aus Privathaushalten oder Rechenzentren?

Nicht in einem verlässlichen Sinne. Kostenlose Listen vermischen Hosting-Server mit Heimgeräten, und viele IP-Adressen, die nach Privatadressen aussehen, stammen von gekaperten Routern, deren Besitzer niemals zugestimmt haben, diese weiterzugeben. Einige wenige Anbieter bieten kleine kostenlose Tarife an, wie beispielsweise die 10 gemeinsam genutzten Proxys von Webshare, aber zuverlässige, ethisch beschaffte Privat-IPs in großem Umfang kosten Geld.

Gibt es eine kostenlose API für rotierende Proxys?

Die meisten „kostenlosen rotierenden Proxy“-Dienste sind Testversionen oder kleine kostenlose Stufen kostenpflichtiger Produkte, keine dauerhaft kostenlosen Pools. Die Rotation erfordert einen gepflegten Pool funktionierender IPs, dessen Betrieb Geld kostet. Wenn Sie Rotation für einen wiederkehrenden Auftrag benötigen, sollten Sie ein Budget für ein kostenpflichtiges Proxy-Paket oder eine Scraping-API einplanen, die die Rotation für Sie übernimmt.

Was ist der Unterschied zwischen kostenlosen und kostenpflichtigen Proxys für das Scraping?

Kostenpflichtige Proxys bieten Nachvollziehbarkeit: einen bekannten Betreiber, Authentifizierung, HTTPS-Unterstützung, Standortausrichtung und jemanden, der nicht mehr funktionierende IPs behebt. Kostenlose Proxys sind anonym, werden gemeinsam genutzt und nicht gewartet. Kostenlose Proxys können zum Lernen geeignet sein. Bei wiederkehrenden Aufgaben kosten kostenpflichtige Proxys in der Regel weniger als die Stunden, die durch erneutes Testen und erneutes Ausführen fehlgeschlagener Scraping-Vorgänge verloren gehen.

Die Nutzung eines öffentlichen Proxys ist an den meisten Orten nicht illegal, aber einige kostenlose Proxys laufen auf kompromittierten Geräten ohne Zustimmung des Eigentümers, und das Leiten von Datenverkehr über diese Geräte wirft rechtliche und ethische Bedenken auf. Die Rechtmäßigkeit des Scrapings selbst hängt davon ab, welche Daten Sie wo erfassen. Dies ist keine Rechtsberatung; prüfen Sie daher die örtlichen Vorschriften.

Sind Sie bereit, die Pflege einer Proxy-Liste einzustellen?

Kostenlose Proxy-Listen eignen sich gut zum Lernen, sind jedoch eine schlechte Grundlage für Daten, auf die Sie angewiesen sind. Wenn Sie bereit sind, dafür zu bezahlen, vergleichen Sie die Tarife für Residential-Proxys, die ab 8,50 $ pro GB im Pay-as-you-go-Modell beginnen, oder fordern Sie ein auf Ihr Datenvolumen zugeschnittenes Angebot für Datacenter-Proxys an. Wenn Sie sich lieber gar nicht um Proxys kümmern möchten, bieten die Scraper-API-Tarife bereits 5.000 kostenlose Anfragen. JavaScript-Rendering und Geotargeting kosten keine zusätzlichen Credits, und fehlgeschlagene Anfragen werden nicht in Rechnung gestellt.

Über den Autor

Robert Munceanu, Full-Stack-Entwickler @ WebScrapingAPI

Robert Munceanu

Full-Stack-Entwickler

Robert Munceanu ist Full-Stack-Entwickler bei WebScrapingAPI, wo er in allen Bereichen des Produkts mitwirkt und an der Entwicklung zuverlässiger Tools und Funktionen zur Unterstützung der Plattform mitwirkt.

Nodriver-Python-Tutorial: Unauffälliges Web-Scraping – vom ersten Skript bis zur Produktion
Die Wissenschaft des Web-Scrapings

Nodriver-Python-Tutorial: Unauffälliges Web-Scraping – vom ersten Skript bis zur Produktion

TL;DR: Kurzfassung: Nodriver ist eine asynchrone Python-Bibliothek, die Chromium über das Chrome DevTools Protocol steuert, ohne Selenium oder chromedriver-Binary. Nutzen Sie sie, wenn ein selbst gehosteter Stealth-Browser, der einer echten Chrome-Sitzung näherkommt, besser passt als ein WebDriver-Stack – aber sie beseitigt IP-, TLS- oder Verhaltensrisiken nicht von allein. Dieses Tutorial führt vom ersten Skript bis zur containerisierten Produktion und einer gehosteten Browser API.

Suciu Dan12 min read
Artikel lesen
Umgang mit Google-/goto-Weiterleitungs-URLs und CAES-Token in einem SERP-Scraper
Die Wissenschaft des Web-Scrapings

Umgang mit Google-/goto-Weiterleitungs-URLs und CAES-Token in einem SERP-Scraper

TL;DR: Kurzfassung: Google-/goto-URLs mit CAES-Token und ältere /url-Wrapper sind Weiterleitungsschichten, keine Ziele; ein SERP-Scraper, der jede href als endgültig behandelt, verfälscht Rank-Tracking und Link-Datenbanken. Bevorzugen Sie eine strukturierte SERP-API, wenn sie Ziel-Links liefert. Wenn Sie HTML parsen müssen, klassifizieren Sie jede href, deduplizieren Sie Weiterleitungen und lösen Sie sie mit einem einfachen GET auf. Entschlüsseln Sie CAES nicht.

Suciu Dan11 min read
Artikel lesen
HTTP-Antwort-Header in cURL: Jedes Flag, jede Technik und jedes Skripting-Rezept
Die Wissenschaft des Web-Scrapings

HTTP-Antwort-Header in cURL: Jedes Flag, jede Technik und jedes Skripting-Rezept

TL;DR: cURL verbirgt standardmäßig Antwort-Header. Verwenden Sie -i, um Header neben dem Body zu sehen, -I für eine HEAD-Anfrage, die nur Header zurückgibt, -v für vollständiges Debugging von Anfrage und Antwort und -D, um Header in einer Datei zu speichern. Für modernes Scripting können Sie mit cURL 7.83+ einzelne Header extrahieren oder mit der Option -w write-out alle Header als JSON ausgeben.

Suciu Dan11 min read
Artikel lesen

Los geht’s

Sind Sie bereit, Ihre Datenerfassung zu erweitern?

Schließen Sie sich den über 2.000 Unternehmen an, die WebScrapingAPI nutzen, um Webdaten im Unternehmensmaßstab ohne zusätzlichen Infrastrukturaufwand zu extrahieren.