Skip to the content.

cebrap.lab online - Raspagem de dados com R

Para saber de próximos oferecimentos, entre em contato com cebrap.lab@cebrap.org.br

Informações gerais

Descrição

O curso “Raspagem de dados com R” abordará uma introdução ao uso da linguagem de programação R para obter dados da internet através de uma técnica chamada raspagem de dados (web scraping).

O curso abordará conceitos relevantes, como:

O curso apresentará exemplos de raspagem de dados em todas as aulas, raspando sites que são interessantes no contexto brasileiro!

Todas as ferramentas utilizadas são gratuitas: utilizaremos a linguagem de programação R, o RStudio, e os pacotes tidyverse, httr, rvest, xml2, purrr, entre outros.

O curso tem como público alvo pessoasque tenham interesse em obter dados através da técnica de raspagem de dados na internet utilizando R, e que tenham familiaridade fazendo as seguintes tarefas em R: importar bases de dados, filtrar linhas, selecionar colunas, agrupar a base, criar sumarizações, criar novas colunas (pacotes readr e dplyr do tidyverse).

Materiais

Slides

Scripts pós aula

link
01-api-documentada.R
02-api-escondida.R
03-api-autenticacao.R
04-iteracao.R
05-html-exemplo.R
06-html-chancedegol.R
07-html-wiki.R
08-scielo.R
09-intro-selenium.R
10-selenium-pbi.R

Exercícios

#> ℹ Using "','" as decimal and "'.'" as grouping mark. Use `read_delim()` for more control.
#> Rows: 46 Columns: 3
#> ── Column specification ────────────────────────────────────────────────────────
#> Delimiter: ";"
#> chr (3): Dia, Material, Link
#> 
#> ℹ Use `spec()` to retrieve the full column specification for this data.
#> ℹ Specify the column types or set `show_col_types = FALSE` to quiet this message.
Dia Material
0 - Geral Repositório do GitHub
0 - Geral Página com materiais
1 - Segunda Slide de introdução ao curso
1 - Segunda Slide - Conhecendo APIs
1 - Segunda Comentário - Tese de doutorado sobre quebra de captchas
1 - Segunda API - Brasil API
1 - Segunda Exemplo de termos de uso que não permitem scraping
1 - Segunda Exemplo de arquivo robots.txt
1 - Segunda API - Olho Vivo - Ônibus de SP - Referência
1 - Segunda API - Olho Vivo - Ônibus de SP - Documentação
1 - Segunda API - Datajud - Documentação
1 - Segunda Texto: Como usar senhas sem escreve-las nos scripts
1 - Segunda Script 01-api-documentada.R
1 - Segunda Script 03-api-autenticacao.R
1 - Segunda Script 04-iteracao.R
2 - Terça Exercício para terça-feira
2 - Terça Leitura para terça-feira: 24.1 Introdução e 24.2 Ética e legalidade da raspagem de dados
3 - Quarta Slide - Raspando informações de páginas HTML estáticas
3 - Quarta API citada nas dúvidas iniciais: reddit
3 - Quarta Exemplo API escondida - ANVISA
3 - Quarta APIs da Embrapa - exemplo de API freemium
3 - Quarta Site citado: base dos dados
3 - Quarta Script 02-api-escondida.R
3 - Quarta Script 05-html-exemplo.R
3 - Quarta Script 06-html-chancedegol.R
3 - Quarta Script 07-html-wki.R
4 - Quinta Leitura para quinta-feira: 24.3 O básico de HTML até 24.6 Juntando tudo
4 - Quinta Exercício para quinta-feira
5 - Sexta Slide - Raspando informações de páginas HTML dinâmicas
5 - Sexta Extra: GitHub Actions. Post: Introdução ao GitHub Actions para quem programa em R
5 - Sexta Extra: GitHub Actions. Atividade em Português
5 - Sexta Extra: GitHub Actions. Atividade em inglês
5 - Sexta Exemplo de repositório de raspador com GitHub Actions
5 - Sexta Extra (dúvidas): OCR no R - Pacote Tesseract
5 - Sexta Extra (dúvidas): OCR no R - Pacote pdftools
5 - Sexta Repositório com materiais do curso do Julio Trecenti (o material é aberto)
5 - Sexta Notícia comentada: Jornalista é acusado de ser hacker em CPI (abraji)
5 - Sexta Notícia comentada: Jornalista é acusado de ser hacker em CPI (uol)
5 - Sexta PBI exemplo selenium
5 - Sexta Lista de opções possíveis para header quando fazemos uma requisição
5 - Sexta Exemplo API do CKAN - Dados abertos PMSP
5 - Sexta Script 08-scielo.R
5 - Sexta Script 09-intro-selenium.R
5 - Sexta Script 10-selenium-pbi.R
6 - Sábado (Extra/opcional) Leitura: 24.7 Sites Dinâmicos até 24.8 Resumo
5 - Sexta Esboços das práticas sugeridas pela turma

Materiais para revisão do conteúdo básico