Diário de Aprendizagem em Tecnologia BD-03 | Trabalhando com Arquivos e Dados Externos em Python
Minha jornada aprendendo Análise de Dados com Python: trabalhando com arquivos e dados externos
Introdução
Durante meus estudos de Python voltados para análise de dados, cheguei a uma etapa muito importante: compreender como trabalhar com dados externos.
No início do aprendizado em programação, é comum utilizarmos informações criadas diretamente dentro do código, como variáveis, listas e valores definidos manualmente. Isso ajuda a entender a lógica da linguagem, mas durante essa etapa percebi que, na prática, os programas normalmente precisam trabalhar com dados que vêm de outros lugares.
Foi nesse momento que comecei a entender a importância dos dados externos e como o Python consegue acessar, organizar e processar informações vindas de arquivos, sistemas e serviços disponíveis na internet.
O objetivo deste estudo foi compreender como trabalhar com diferentes fontes de dados, como TXT, CSV, JSON, APIs e bancos de dados, criando uma base para futuras análises mais avançadas.
1. O que aprendi sobre dados externos
Durante essa aula, compreendi que dados externos são informações que não ficam escritas diretamente dentro do código.
Um exemplo simples seria imaginar um sistema escolar. Seria inviável colocar dentro do programa todos os dados dos alunos, como:
- nome;
- idade;
- endereço;
- informações acadêmicas.
Uma solução mais adequada é armazenar essas informações em arquivos ou bancos de dados e permitir que o programa consulte esses dados quando necessário.
Esse conceito mudou minha visão sobre programação, pois percebi que uma aplicação real não depende apenas do código, mas também da forma como ela consegue acessar e trabalhar com informações externas.
2. Trabalhando com arquivos em Python
Para começar a manipular arquivos, aprendi que o Python possui uma função chamada:
open()
Essa função permite criar uma conexão entre o programa e um arquivo.
Exemplo:
open("dados.txt", "r")
Nesse exemplo:
dados.txtrepresenta o arquivo que será acessado;rrepresenta o modo de leitura (read).
Também conheci os principais modos utilizados:
ModoO que aprendirUtilizado para leitura dos dadoswUtilizado para escrever informaçõesaUtilizado para adicionar informações ao final do arquivo
Um ponto de atenção que aprendi foi sobre o modo w.
Quando utilizamos esse modo, o conteúdo existente no arquivo pode ser substituído.
Já o modo a (append) permite adicionar novas informações sem apagar os dados existentes.
3. Aprendendo a trabalhar com arquivos TXT
O primeiro formato estudado foi o arquivo TXT.
Entendi que esse é um dos formatos mais simples para armazenar informações, pois trabalha apenas com texto.
Ele pode ser utilizado para guardar:
- mensagens;
- listas;
- registros;
- informações simples de sistemas.
Durante a prática, aprendi como criar um arquivo, escrever informações utilizando:
write()
e depois realizar a leitura utilizando:
read()
Também compreendi a importância de ler arquivos linha por linha quando trabalhamos com grandes volumes de informações, evitando carregar todo o conteúdo de uma única vez na memória.
4. Minha primeira experiência com arquivos CSV
Depois dos arquivos TXT, avancei para o formato CSV.
Esse foi um dos formatos que mais chamou minha atenção, principalmente por ser muito utilizado em análise de dados.
Aprendi que CSV significa:
Comma Separated Values
Ele organiza informações em linhas e colunas, funcionando de forma semelhante a uma planilha.
Exemplo:
Nome;Idade;Cidade
Ana;25;São Paulo
Carlos;30;Rio de Janeiro
No Python, utilizei o módulo:
import csv
Esse módulo facilita a leitura e escrita desses arquivos.
Aprendi também a importância do parâmetro:
newline
quando trabalhamos com CSV, pois ele ajuda a evitar linhas extras indesejadas durante a gravação dos dados.
5. Entendendo o formato JSON
Outro formato estudado foi o JSON.
No começo, o conceito parecia um pouco diferente, mas compreendi que sua estrutura é muito parecida com os dicionários do Python.
Exemplo:
{
"nome":"Ana",
"idade":25,
"cidade":"São Paulo"
}
No Python:
dados = {
"nome":"Ana",
"idade":25
}
Aprendi que o JSON é muito utilizado porque facilita a comunicação entre sistemas diferentes.
Para trabalhar com ele, utilizei:
import json
Também conheci funções importantes:
json.dump()
para gravar dados em um arquivo JSON.
E:
json.load()
para realizar a leitura.
6. Uma nova etapa: entendendo APIs
Depois de aprender sobre arquivos locais, comecei a compreender que os dados também podem estar disponíveis na internet.
Foi nesse momento que conheci o conceito de API.
API significa:
Application Programming Interface
Durante o estudo, entendi que uma API funciona como uma ponte de comunicação entre sistemas.
Um programa pode solicitar uma informação e a API retorna os dados disponíveis.
Um exemplo seria consultar:
- previsão do tempo;
- preços;
- informações financeiras;
- dados de serviços online.
7. Como o Python se comunica com APIs
Para realizar essa comunicação, aprendi sobre requisições HTTP.
Os principais métodos estudados foram:
MétodoUtilizaçãoGETBuscar informaçõesPOSTEnviar informações
No Python, conheci a biblioteca:
import requests
Com ela podemos realizar uma solicitação:
response = requests.get(url)
Nesse momento, compreendi que o programa envia uma requisição e recebe uma resposta do serviço.
8. Interpretando dados recebidos de uma API
Aprendi que muitas APIs retornam informações no formato JSON.
Exemplo:
{
"name":"Ana",
"age":54,
"count":2351
}
Depois de receber esses dados, podemos transformar a resposta em um dicionário Python.
Assim conseguimos acessar informações específicas:
dados["name"]
dados["age"]
Esse conceito foi importante para entender como aplicações conseguem consumir informações externas e utilizá-las dentro de seus próprios sistemas.
9. Uma reflexão durante o aprendizado: onde encontrar APIs?
Durante essa etapa surgiu uma dúvida importante:
"Como eu descubro quais APIs existem e quais informações posso consultar?"
Ao pesquisar sobre o assunto, compreendi que o caminho mais adequado é buscar fontes confiáveis, principalmente:
- documentação oficial dos serviços;
- portais de dados públicos;
- páginas de desenvolvedores;
- documentação técnica das APIs.
Também aprendi que não basta apenas conseguir acessar um dado.
É importante verificar:
- a origem da informação;
- as regras de utilização;
- permissões de acesso;
- confiabilidade dos dados.
Essa foi uma percepção importante, pois comecei a enxergar que trabalhar com dados envolve também responsabilidade e segurança.
10. Primeiros passos com bancos de dados
Após estudar arquivos, conheci uma forma mais estruturada de armazenar informações: os bancos de dados.
Aprendi que, diferente de arquivos simples, os bancos de dados são preparados para trabalhar com grandes volumes de informações organizadas.
Durante a prática, utilizei o SQLite através do módulo:
import sqlite3
Aprendi a criar uma conexão:
sqlite3.connect()
e utilizar um cursor para enviar comandos ao banco.
11. Conhecendo comandos SQL
Durante essa etapa tive contato com comandos SQL.
Aprendi exemplos como:
Criar uma tabela:
CREATE TABLE usuarios
Inserir informações:
INSERT INTO usuarios
Consultar dados:
SELECT * FROM usuarios
Também compreendi que o Python consegue se comunicar com bancos de dados, permitindo inserir, consultar e manipular informações.
12. O conceito de pipeline de dados
Um dos conceitos que mais chamou minha atenção foi o pipeline de dados.
Aprendi que pipeline representa um fluxo organizado de processamento:
Fonte de dados
↓
Arquivo/API/Banco
↓
Python
↓
Tratamento
↓
Análise
↓
Relatório
Na prática, isso permite automatizar tarefas que antes seriam realizadas manualmente.
Por exemplo:
- importar dados diariamente;
- processar informações;
- gerar relatórios automaticamente.
13. Segurança e boas práticas
Durante o estudo também compreendi que trabalhar com dados exige cuidado.
Alguns problemas que podem acontecer:
- arquivos inexistentes;
- dados inválidos;
- erros de conexão;
- informações corrompidas.
Por isso, aprendi a importância de:
- validar informações;
- tratar erros;
- utilizar fontes confiáveis;
- cuidar da segurança dos dados.
Conclusão
Ao finalizar esse módulo, compreendi que trabalhar com Python vai muito além de escrever códigos simples.
Aprendi que os programas precisam se comunicar com diferentes fontes de informação, como:
- arquivos TXT;
- arquivos CSV;
- arquivos JSON;
- APIs;
- bancos de dados.
Essa etapa foi importante porque comecei a entender como os dados circulam em aplicações reais.
Também percebi que, para evoluir profissionalmente nessa área, não basta apenas aprender comandos. É necessário desenvolver o hábito de pesquisar, buscar documentação oficial, entender a origem dos dados e pensar em como essas informações podem ser utilizadas de forma segura e eficiente.
Este foi mais um passo na minha jornada de aprendizado em Python e análise de dados.
Registrando minha evolução nos estudos de Dados, Programação e Tecnologia.



