نحوه استفاده از پروکسیهای SOCKS5 ProxyScrape در Windows Terminal و PowerShell برای وب اسکرپینگ
راهنمای عملی برای پیکربندی پروکسیهای SOCKS5 ProxyScrape برای ابزارهای خط فرمان در ویندوز، شامل curl، Windows Terminal و PowerShell، همراه با استراتژیهای چرخش برای وب اسکرپینگ.
نمای کلی
این آموزش به شما نشان میدهد چگونه پروکسیهای SOCKS5 ProxyScrape را برای ابزارهای خط فرمان در ویندوز، شامل Windows Terminal، PowerShell و curl پیکربندی کنید. SOCKS5 یک پروتکل پروکسی همهکاره است که میتواند هر نوع ترافیکی را مدیریت کند، و آن را برای وب اسکرپینگ، تست API و اتوماسیون ایدهآل میسازد. ما تست پروکسی، تنظیم متغیرهای محیطی و چرخش پروکسیها برای اسکرپینگ در مقیاس بزرگ را پوشش خواهیم داد.
ProxyScrape پروکسیهای مسکونی، دیتاسنتر و موبایل را با پشتیبانی HTTP و SOCKS5 ارائه میدهد. استخر ۹۷ میلیون+ IP و زمان آپتایم قابل اعتماد آنها را به گزینهای قوی برای تیمهایی که به زیرساخت قابل اتکا نیاز دارند تبدیل میکند.
پیشنیازها
قبل از شروع، مطمئن شوید که موارد زیر را دارید:
- یک اشتراک فعال ProxyScrape (مسکونی، دیتاسنتر یا موبایل).
- جزئیات endpoint SOCKS5 ProxyScrape شما: host، port، نام کاربری و رمز عبور.
- ویندوز ۱۰ یا ۱۱ با Windows Terminal (یا Command Prompt) و PowerShell.
- نصب curl. ویندوز ۱۰ (نسخه ۱۸۰۳ به بالا) و ویندوز ۱۱ به طور پیشفرض شامل curl هستند. اگر نه، آن را از وبسایت رسمی curl دانلود کنید.
مراحل
۱. دریافت endpoint SOCKS5 ProxyScrape شما
وارد داشبورد ProxyScrape خود شوید و به بخش لیست پروکسی یا endpoint بروید. SOCKS5 را به عنوان پروتکل انتخاب کنید، سپس host، port، نام کاربری و رمز عبور را برای نوع پروکسی انتخابی خود (مسکونی، دیتاسنتر یا موبایل) کپی کنید. همچنین ممکن است لیستی از چندین endpoint را ببینید اگر طرح چرخشی دارید.
۲. تست پروکسی با curl در Windows Terminal
Windows Terminal (یا Command Prompt) را باز کنید و یک دستور curl ساده برای تأیید کارکرد پروکسی اجرا کنید. از فلگ --socks5-hostname استفاده کنید تا DNS نیز از طریق پروکسی مسیریابی شود.
curl --socks5-hostname username:password@host:port https://httpbin.org/ip
username، password، host و port را با اعتبارنامههای واقعی خود جایگزین کنید. در صورت موفقیت، پاسخ آدرس IP پروکسی را به جای IP خودتان نشان میدهد.
۳. راهاندازی متغیرهای محیطی برای استفاده سیستمی از پروکسی
بسیاری از ابزارهای خط فرمان به متغیر محیطی ALL_PROXY احترام میگذارند. در PowerShell، میتوانید آن را برای جلسه فعلی تنظیم کنید:
$env:ALL_PROXY = "socks5://username:password@host:port"
برای Command Prompt، استفاده کنید:
set ALL_PROXY=socks5://username:password@host:port
برای دائمی کردن آن، آن را از طریق تنظیمات ویندوز یا با استفاده از setx به متغیرهای محیطی سیستم خود اضافه کنید. توجه داشته باشید که همه ابزارها از SOCKS5 از طریق متغیرهای محیطی پشتیبانی نمیکنند، اما curl، wget و بسیاری دیگر این کار را میکنند.
۴. استفاده از SOCKS5 ProxyScrape با curl برای وب اسکرپینگ
با پیکربندی پروکسی، میتوانید صفحات وب را واکشی کنید. به عنوان مثال، برای ذخیره یک صفحه در یک فایل:
curl --socks5-hostname username:password@host:port -o output.html https://example.com
اگر لیستی از پروکسیها دارید (مثلاً لیست endpoint چرخشی از ProxyScrape)، میتوانید در یک اسکریپت روی آنها حلقه بزنید.
۵. مسیریابی Invoke-WebRequest PowerShell از طریق ProxyScrape
Invoke-WebRequest در PowerShell به طور بومی از SOCKS5 پشتیبانی نمیکند. اگر نیاز به استفاده از cmdletهای PowerShell دارید، از یک پروکسی HTTP استفاده کنید. ProxyScrape همچنین پروکسیهای HTTP را ارائه میدهد؛ میتوانید از endpoint HTTP خود با Invoke-WebRequest استفاده کنید:
Invoke-WebRequest -Uri "https://example.com" -Proxy "http://username:password@host:port"
برای SOCKS5 در PowerShell، مستقیماً curl.exe را همانطور که در مرحله ۲ نشان داده شد فراخوانی کنید.
۶. استفاده از SOCKS5 ProxyScrape با Python requests (اختیاری)
اگر از Python برای اسکرپینگ استفاده میکنید، کتابخانه requests را با پشتیبانی SOCKS نصب کنید:
pip install requests[socks]
سپس از پروکسی در اسکریپت خود استفاده کنید:
import requests
proxies = {
'http': 'socks5://username:password@host:port',
'https': 'socks5://username:password@host:port'
}
response = requests.get('https://httpbin.org/ip', proxies=proxies)
print(response.text)
۷. چرخش پروکسیها برای اسکرپینگ در مقیاس بزرگ
برای کارهای بزرگ، از چندین پروکسی به طور چرخشی استفاده کنید تا از محدودیت نرخ جلوگیری کنید. یک فایل متنی proxies.txt با یک پروکسی در هر خط در قالب host:port:username:password ایجاد کنید. سپس از یک اسکریپت PowerShell برای تکرار استفاده کنید:
$proxies = Get-Content proxies.txt
foreach ($proxy in $proxies) {
$parts = $proxy -split ':'
$host = $parts[0]
$port = $parts[1]
$user = $parts[2]
$pass = $parts[3]
$proxyUrl = "socks5://${user}:${pass}@${host}:${port}"
$env:ALL_PROXY = $proxyUrl
curl.exe -s --socks5-hostname "${user}:${pass}@${host}:${port}" https://httpbin.org/ip
}
اسکریپت را متناسب با هدف اسکرپینگ خود تنظیم کنید.
عیبیابی
- اتصال رد شد: بررسی کنید که host و port صحیح هستند و در صورت نیاز IP شما در لیست مجاز قرار دارد.
- احراز هویت ناموفق: نام کاربری و رمز عبور خود را دوباره بررسی کنید. ممکن است کاراکترهای خاص نیاز به کدگذاری URL داشته باشند (مثلاً
@به%40تبدیل میشود). - خطاهای حل DNS: همیشه از
--socks5-hostnameبا curl استفاده کنید تا پروکسی DNS را حل کند. - عملکرد کند: برای سرعت، پروکسیهای دیتاسنتر را امتحان کنید؛ پروکسیهای مسکونی مخفیتر اما کندتر هستند.
- متغیرهای محیطی کار نمیکنند: برخی ابزارها
ALL_PROXYرا نادیده میگیرند. به جای آن از فلگهای خط فرمان استفاده کنید.
خلاصه
شما یاد گرفتید چگونه از پروکسیهای SOCKS5 ProxyScrape با ابزارهای خط فرمان در ویندوز، شامل curl، Windows Terminal و PowerShell استفاده کنید. ما تست پروکسی، تنظیم متغیرهای محیطی، چرخش پروکسیها برای اسکرپینگ، و راهحلهای جایگزین برای cmdletهای PowerShell را پوشش دادیم. زیرساخت قابل اعتماد ProxyScrape و استخر بزرگ ۹۷ میلیون+ IP آنها را به گزینهای قوی برای وب اسکرپینگ و اتوماسیون تبدیل میکند. برای تنظیمات پیشرفتهتر، استفاده از پروکسیهای مسکونی آنها برای مخفی ماندن یا پروکسیهای دیتاسنتر برای کارهای پرسرعت را در نظر بگیرید.