Selenium là một công cụ chủ yếu được sử dụng để thử nghiệm web và tự động hóa trình duyệt. Nó cho phép bạn điều khiển headless browsers theo chương trình như: mở trang web, chụp ảnh màn hình và tương tác với trang. Với sự phổ biến ngày càng tăng của JavaScript, webscraping, thì bạn có thể tìm thấy sức mạnh của Selenium trong việc xử lý các trang web động. Tuy nhiên, bạn sẽ không thể thực hiện nhiều thao tác quét hoặc kiểm tra trang web nếu không có máy chủ proxy, vì các trang web rất nghiêm ngặt đối với quá trình tự động hóa nặng. Đó là lý do tại sao bạn cần một máy chủ proxy như một máy tính trung gian giữa bạn và internet. Hướng dẫn này sẽ chỉ cho bạn cách thiết lập máy chủ proxy với Selenium bằng Python và cách xử lý xác thực proxy.
Trước tiên, bạn cần cài đặt Python 3. Hầu hết các nền tảng đều có nó theo mặc định, vì vậy bạn có thể kiểm tra xem mình có làm như vậy không bằng lệnh sau:
python --version
Nó sẽ trả về kết quả như thế này:
Python 3.11.2
Nếu nó dẫn đến lỗi hoặc phiên bản in ra là 2.x, bạn nên tải xuống Python 3.x và làm theo hướng dẫn cài đặt để thiết lập.
Tiếp theo, khởi tạo một dự án Python mới và thêm gói liên kết Selenium Python:
pip install selenium
Selenium có thể kiểm soát nhiều trình duyệt, nhưng chúng tôi sẽ sử dụng Google Chrome vì đây là trình duyệt được sử dụng nhiều nhất. Đảm bảo bạn đã cài đặt phiên bản Chrome mới nhất.
Bây giờ, hãy thêm trình quản lý WebDriver vào dự án của bạn:
pip install webdriver-manager
Đó là gói Python giúp đơn giản hóa việc quản lý trình điều khiển. Cụ thể, nó giúp bạn không phải tải xuống phiên bản ChromeDriver mới mỗi khi Chrome được nâng cấp.
Đoạn mã dưới đây sẽ nhập các công cụ, khởi chạy một phiên bản Chrome WebDriver và sử dụng nó để truy cập một trang mục tiêu mẫu.
from selenium import webdriver
from selenium.webdriver.chrome.service import Service as ChromeService
from webdriver_manager.chrome import ChromeDriverManager
driver = webdriver.Chrome(service=ChromeService(ChromeDriverManager().install()))
driver.get('https://example.com/')
Vậy là bạn vừa biết cách bắt đầu với Selenium trong Python. Hãy xem các hướng dẫn thiết lập proxy với Selenium bằng Python dưới đây.
Cách thiết lập proxy bằng Selenium Wire
Nếu bạn đã mua proxy, rất có thể bạn sẽ cần xác thực proxy của mình trước khi có thể bắt đầu sử dụng chúng. Nếu không, bạn sẽ không thể chạy nó trong Selenium. Tùy thuộc vào quy mô dự án của bạn, bạn có thể sử dụng Selenium với trình duyệt thông thường hoặc headless browser. Trong ví dụ này, chúng tôi sẽ chỉ cho bạn cách thiết lập và xác thực proxy bằng headless browser.
Trước tiên, bạn sẽ cần cài đặt Selenium Wire để mở rộng các liên kết Python của Selenium. Khi bạn cần xác thực proxy của mình, mô-đun Selenium mặc định sẽ làm cho quy trình trở nên phức tạp.
Bước 1. Cài đặt Selenium Wire và nhập WebDriver:
pip install selenium-wire
from seleniumwire import webdriver
Bước 2. Chúng tôi khuyên bạn nên cài đặt trình quản lý WebDriver để không cần tải xuống Selenium sau mỗi lần cập nhật.
pip install webdriver-manager
Bước 3. Thêm proxy của bạn vào đối số tùy chọn mà bạn chuyển đến WebDriver.
Với proxy SOCKS5, quy trình xác thực tương tự như proxy HTTP(S). Bạn chỉ cần đặt cơ chế thành socks5. Nếu proxy của bạn không yêu cầu xác thực, hãy loại trừ ‘user’ và ‘password’. Xác thực proxy SOCKS5 của bạn bằng cách chỉ định tên người dùng và mật khẩu của bạn trong URL.
Proxy SOCKS5 là lựa chọn đáng tin cậy để kết hợp với Selenium
Sử dụng Proxy xoay IP trong Selenium với Python
Nếu tập lệnh của bạn thực hiện một số yêu cầu trong một khoảng thời gian ngắn, máy chủ có thể coi tập lệnh đó là đáng ngờ và chặn IP của bạn. Tuy nhiên, điều đó sẽ không xảy ra với proxy xoay IP. IP cuối của bạn sẽ liên tục thay đổi để mỗi lần bạn xuất hiện với tư cách là một người dùng khác, ngăn không cho máy chủ cấm bạn. Đó là sức mạnh của proxy xoay IP.
Đã đến lúc tìm hiểu cách xây dựng proxy xoay IP trong Selenium bằng selenium wire. Trước tiên, bạn phải tìm một nhóm proxy. Trong ví dụ này, chúng tôi sẽ sử dụng proxy của ZingProxy.
Sau đó, trích xuất một proxy ngẫu nhiên bằng random.choice() và sử dụng nó để khởi tạo phiên bản trình điều khiển mới:
from seleniumwire import webdriver
from selenium.webdriver.chrome.service import Service as ChromeService
from webdriver_manager.chrome import ChromeDriverManager
import random
# the list of proxy to rotate on
PROXIES = [
'http://19.151.94.248:88',
'http://149.169.197.151:80',
# ...
'http://212.76.118.242:97'
]
# randomly extract a proxy
random_proxy = random.choice(PROXIES)
# set the proxy in Selenium Wire
seleniumwire_options = {
'proxy': {
'http': f'{random_proxy}',
'https': f'{random_proxy}',
'verify_ssl': False,
},
}
# create a ChromeDriver instance
driver = webdriver.Chrome(
service=ChromeService(ChromeDriverManager().install()),
seleniumwire_options=seleniumwire_options
)
driver.visit('https://example.com/')
# scraping logic...
driver.quit()
# visit other pages...
Lặp lại logic này mỗi khi bạn muốn truy cập một trang mới. Vậy là bạn đã xây dựng một proxy luân phiên Selenium.
Lưu ý: Hầu hết các yêu cầu sẽ không thành công nếu sử dụng nguồn proxy miễn phí, vì proxy miễn phí dễ bị lỗi. Đó là lý do tại sao bạn nên lựa chọn những proxy trả phí chất lượng cao, hoặc thử lại với thời gian chờ ngẫu nhiên.
Hãy thử kiểm tra logic xoay vòng IP đối với mục tiêu sử dụng công nghệ chống bot:
Máy chủ mục tiêu đã phát hiện yêu cầu Selenium với proxy xoay IP dưới dạng bot và phản hồi bằng lỗi 403 Unauthorized.
Giao diện hiển thị lỗi 403 Unauthorized
Hướng dẫn này đã chỉ ra cách thiết lập proxy với Selenium bằng Python. Hãy nhớ rằng việc sử dụng proxy trong Selenium giúp bạn tránh bị cấm IP. Tuy nhiên, một số công nghệ chống thu thập dữ liệu vẫn có thể chặn bạn. Để lại những câu hỏi cần giải đáp phía dưới phần bình luận để chúng tôi có thể hỗ trợ bạn một cách nhanh nhất!
Tự động theo dõi giá sản phẩm trên Tiki.vn bằng API là một phương pháp mới và linh hoạt nhất trong việc phân tích thị trường trong môi trường E-commerce 2025, việc theo dõi giá đối thủ không chỉ là một lợi thế cạnh tranh—đó là một cuộc chiến công nghệ. Các phương pháp scraping […]
Trong kỷ nguyên 2025, việc nuôi tài khoản Instagram số lượng lớn đã trở thành một thách thức thực sự cho giới Marketing và MMO. Bạn có thể đã dồn hết tâm huyết để xây dựng hệ thống, để rồi một buổi sáng thức dậy và thấy tất cả “bay màu” hàng loạt không một […]
Bạn đã bao giờ rơi vào tình huống bị chặn IP khi đang thu thập dữ liệu quan trọng? Hay bất lực nhìn thấy thông báo “Nội dung này không có sẵn ở quốc gia của bạn”? Trong thế giới số ngày nay, những rào cản như vậy xuất hiện ở khắp mọi nơi. Các […]
Trong bối cảnh toàn cầu hóa, việc mở rộng kinh doanh ra thị trường quốc tế là mục tiêu của nhiều doanh nghiệp Việt Nam. Đức, với vị thế là nền kinh tế lớn nhất châu Âu, luôn là một “mỏ vàng” đầy tiềm năng nhưng cũng ẩn chứa không ít thách thức. Rào cản […]
Bạn vừa đầu tư một proxy mới, háo hức cài đặt để bắt đầu công việc nhưng màn hình lại đột ngột hiển thị thông báo “The proxy server is refusing connections”. Đừng lo lắng, đây là một trong những sự cố kết nối phổ biến nhất mà bất kỳ ai sử dụng proxy cũng […]
Trong thế giới MMO, game online hay lập trình, không phải ứng dụng nào cũng “ngoan ngoãn” cho phép bạn tùy chỉnh proxy. Các game client, tool auto, bot, hay phần mềm chuyên dụng thường bỏ qua cài đặt proxy của hệ thống và kết nối trực tiếp đến Internet. Điều này tạo ra một […]