^{Special thanks to:}

Warp is built for coding with multiple AI agents

Descargo de responsabilidad:

Por favor, utilice este repositorio únicamente con fines de aprendizaje ⚠️⚠️⚠️⚠️, Casos ilegales de web scraping

Todo el contenido de este repositorio es únicamente para fines de aprendizaje y referencia, y está prohibido el uso comercial. Ninguna persona u organización puede usar el contenido de este repositorio para propósitos ilegales o infringir los derechos e intereses legítimos de otros. La tecnología de web scraping involucrada en este repositorio es solo para aprendizaje e investigación, y no puede ser utilizada para rastreo a gran escala de otras plataformas u otras actividades ilegales. Este repositorio no asume ninguna responsabilidad legal por cualquier responsabilidad legal que surja del uso del contenido de este repositorio. Al usar el contenido de este repositorio, usted acepta todos los términos y condiciones de este descargo de responsabilidad.

Haga clic para ver un descargo de responsabilidad más detallado. Haga clic para saltar

Una poderosa herramienta de recolección de datos de redes sociales multiplataforma que soporta el rastreo de información pública de plataformas principales incluyendo Xiaohongshu, Douyin, Kuaishou, Bilibili, Weibo, Tieba, Zhihu, y más.

• Tecnología Central: Basado en el framework de automatización de navegador Playwright para login y mantenimiento del estado de login
• No Requiere Ingeniería Inversa de JS: Utiliza el entorno de contexto del navegador con estado de login preservado para obtener parámetros de firma a través de expresiones JS
• Ventajas: No necesita hacer ingeniería inversa de algoritmos de encriptación complejos, reduciendo significativamente la barrera técnica

💡 ¡El código abierto no es fácil, si este proyecto te ayuda, por favor da una ⭐ Estrella para apoyar!

Antes de proceder con los siguientes pasos, por favor asegúrese de que uv esté instalado en su computadora:

• Guía de Instalación: Guía Oficial de Instalación de uv
• Verificar Instalación: Ingrese el comando uv --version en la terminal. Si el número de versión se muestra normalmente, la instalación fue exitosa
• Razón de Recomendación: uv es actualmente la herramienta de gestión de paquetes Python más poderosa, con velocidad rápida y resolución de dependencias precisa

El proyecto depende de Node.js, por favor descargue e instale desde el sitio web oficial:

• Enlace de Descarga: https://nodejs.org/en/download/
• Requisito de Versión: >= 16.0.0

# Entrar al directorio del proyecto
cd MediaCrawler

# Usar el comando uv sync para asegurar la consistencia de la versión de python y paquetes de dependencias relacionados
uv sync

# Instalar controlador de navegador
uv run playwright install

💡 Consejo: MediaCrawler ahora soporta usar playwright para conectarse a su navegador Chrome local, resolviendo algunos problemas causados por Webdriver.

Actualmente, xhs y dy están disponibles usando el modo CDP para conectarse a navegadores locales. Si es necesario, verifique los elementos de configuración en config/base_config.py.

# El proyecto no habilita el modo de rastreo de comentarios por defecto. Si necesita comentarios, por favor modifique la variable ENABLE_GET_COMMENTS en config/base_config.py
# Otras opciones soportadas también pueden verse en config/base_config.py con comentarios en chino

# Leer palabras clave del archivo de configuración para buscar publicaciones relacionadas y rastrear información de publicaciones y comentarios
uv run main.py --platform xhs --lt qrcode --type search

# Leer lista de ID de publicaciones específicas del archivo de configuración para obtener información e información de comentarios de publicaciones específicas
uv run main.py --platform xhs --lt qrcode --type detail

# Abrir la APP correspondiente para escanear código QR para login

# Para ejemplos de uso de rastreador de otras plataformas, ejecute el siguiente comando para ver
uv run main.py --help

# Entrar al directorio raíz del proyecto
cd MediaCrawler

# Crear entorno virtual
# Mi versión de python es: 3.9.6, las librerías en requirements.txt están basadas en esta versión
# Si usa otras versiones de python, las librerías en requirements.txt pueden no ser compatibles, por favor resuelva por su cuenta
python -m venv venv

# macOS & Linux activar entorno virtual
source venv/bin/activate

# Windows activar entorno virtual
venv\Scripts\activate

pip install -r requirements.txt

playwright install

# El proyecto no habilita el modo de rastreo de comentarios por defecto. Si necesita comentarios, por favor modifique la variable ENABLE_GET_COMMENTS en config/base_config.py
# Otras opciones soportadas también pueden verse en config/base_config.py con comentarios en chino

# Leer palabras clave del archivo de configuración para buscar publicaciones relacionadas y rastrear información de publicaciones y comentarios
python main.py --platform xhs --lt qrcode --type search

# Leer lista de ID de publicaciones específicas del archivo de configuración para obtener información e información de comentarios de publicaciones específicas
python main.py --platform xhs --lt qrcode --type detail

# Abrir la APP correspondiente para escanear código QR para login

# Para ejemplos de uso de rastreador de otras plataformas, ejecute el siguiente comando para ver
python main.py --help

Soporta múltiples métodos de almacenamiento de datos:

• Archivos CSV: Soporta guardar en CSV (bajo el directorio data/)
• Archivos JSON: Soporta guardar en JSON (bajo el directorio data/)
• Almacenamiento en Base de Datos
  • Use el parámetro --init_db para la inicialización de la base de datos (cuando use --init_db, no se necesitan otros argumentos opcionales)
  • Base de Datos SQLite: Base de datos ligera, no requiere servidor, adecuada para uso personal (recomendado)
    1. Inicialización: --init_db sqlite
    2. Almacenamiento de Datos: --save_data_option sqlite
  • Base de Datos MySQL: Soporta guardar en la base de datos relacional MySQL (la base de datos debe crearse con anticipación)
    1. Inicialización: --init_db mysql
    2. Almacenamiento de Datos: --save_data_option db (el parámetro db se mantiene por compatibilidad con actualizaciones históricas)

# Inicializar la base de datos SQLite (cuando use '--init_db', no se necesitan otros argumentos opcionales)
uv run main.py --init_db sqlite
# Usar SQLite para almacenar datos (recomendado para usuarios personales)
uv run main.py --platform xhs --lt qrcode --type search --save_data_option sqlite

# Inicializar la base de datos MySQL
uv run main.py --init_db mysql
# Usar MySQL para almacenar datos (el parámetro db se mantiene por compatibilidad con actualizaciones históricas)
uv run main.py --platform xhs --lt qrcode --type search --save_data_option db

🚀 ¡Lanzamiento Mayor de MediaCrawlerPro 🚀! ¡Más características, mejor diseño arquitectónico!

• Grupo de Discusión WeChat: Haga clic para unirse

• Documentación en Línea: Documentación Completa de MediaCrawler
• Tutorial de Rastreador: Tutorial Gratuito CrawlerTutorial

La documentación en línea incluye métodos de uso, preguntas comunes, unirse a grupos de discusión del proyecto, etc. Documentación en Línea de MediaCrawler

Si quiere comenzar rápidamente y aprender el uso de este proyecto, diseño arquitectónico del código fuente, aprender tecnología de programación, o quiere entender el diseño del código fuente de MediaCrawlerPro, puede revisar mi columna de conocimiento pagado.

Introducción de la Columna de Conocimiento Pagado del Autor

¡Si este proyecto te ayuda, por favor da una ⭐ Estrella para apoyar y que más personas vean MediaCrawler!

**Swiftproxy** - ¡90M+ IPs residenciales puras de alta calidad globales, regístrese para obtener 500MB de tráfico de prueba gratuito, el tráfico dinámico nunca expira! > Código de descuento exclusivo: **GHB5** ¡Obtenga 10% de descuento instantáneamente!

¡Conviértase en patrocinador y muestre su producto aquí, obteniendo exposición masiva diariamente!

Información de Contacto:

• WeChat: relakkes
• Email: relakkes@gmail.com

• Cliente Xiaohongshu: Repositorio xhs de ReaJason
• Reenvío de SMS: Repositorio de referencia SmsForwarder
• Herramienta de Penetración de Intranet: Documentación oficial de ngrok

¡Gracias a JetBrains por proporcionar soporte de licencia de código abierto gratuito para este proyecto!