Simple Science

Ciência de ponta explicada de forma simples

# Informática# Interação Homem-Computador

Clínicas de Cibersegurança: Uma Nova Abordagem para Pequenas Empresas

Aproveitando o talento dos alunos para avaliações essenciais de cibersegurança em empresas locais.

Anirban Mukhopadhyay, Kurt Luther

― 10 min ler


Cibersegurança paraCibersegurança paraPequenas Empresaspequenos negócios.vulnerabilidade super importantes paraEstudantes fazem avaliações de
Índice

Pequenas empresas estão cada vez mais em risco de ciberataques. Um número significativo de vazamentos de dados envolve esses negócios, muitas vezes porque eles não têm os recursos ou o conhecimento para se proteger. Avaliações de Vulnerabilidade ajudam a identificar fraquezas nas defesas digitais de uma empresa. Essas avaliações podem ser complicadas e demoradas, geralmente exigindo conhecimento especializado e recursos que as pequenas empresas não têm. Para resolver esse problema, clínicas de cibersegurança surgiram, permitindo que estudantes ganhem experiência enquanto fornecem avaliações gratuitas para negócios locais. No entanto, essas clínicas enfrentam desafios para escalar suas operações.

A Necessidade de Avaliações de Vulnerabilidade

Muitas pequenas empresas não estão cientes dos riscos cibernéticos que enfrentam. Elas muitas vezes não sabem como avaliar sua postura de segurança ou quais etapas tomar para melhorá-la. Uma avaliação de vulnerabilidade pode ajudar as empresas a entender suas fraquezas antes que os cibercriminosos possam explorá-las. Essas avaliações incluem entrevistas, revisões de segurança e avaliações técnicas. Mesmo que uma empresa contrate um profissional de TI, essa pessoa geralmente está sobrecarregada e pode não ter treinamento específico em cibersegurança.

As clínicas de cibersegurança oferecem uma solução em potencial envolvendo estudantes no processo de realização dessas avaliações. Os alunos podem ganhar experiência prática importante enquanto pequenas empresas recebem avaliações de segurança essenciais sem custo. No entanto, escalar essas clínicas apresenta dificuldades em termos de treinar estudantes suficientes e gerenciar tarefas que consomem muito tempo.

O Conceito de uma Clínica OSINT

Para enfrentar os desafios de escalabilidade associados às clínicas tradicionais de cibersegurança, propõe-se o conceito de uma clínica de Inteligência de Código Aberto (OSINT). OSINT se baseia em informações disponíveis em fontes acessíveis ao público, permitindo que os alunos conduzam avaliações sem precisar de interação direta com as empresas. Essa abordagem reduz o risco envolvido e economiza tempo. As avaliações podem incluir mapear ativos digitais acessíveis ao público, monitorar presença online para menções negativas e procurar dados vazados na dark web.

Enquanto clínicas tradicionais podem incorporar OSINT, elas muitas vezes não se concentram exclusivamente nisso. Ao enfatizar OSINT, a clínica pode oferecer uma oportunidade de aprendizado única para os alunos e benefícios práticos para pequenas empresas. No entanto, investigações de OSINT podem ser complexas e exigir um esforço considerável para filtrar grandes quantidades de dados, que muitas vezes incluem fontes não confiáveis.

Integrando IA Generativa

IA generativa, particularmente modelos como o ChatGPT, pode ser eficaz para lidar com os desafios presentes nas investigações de OSINT. Ferramentas de IA podem ajudar os estudantes a filtrar as informações coletadas e tornar o processo investigativo mais eficiente. O objetivo é integrar a IA generativa nos fluxos de trabalho da clínica OSINT, aumentando a eficácia geral das avaliações de vulnerabilidade.

Visão Geral da Pesquisa

Essa pesquisa é impulsionada por questões chave sobre os desafios enfrentados na escalabilidade de avaliações de vulnerabilidade dentro das clínicas OSINT e como a IA generativa pode ajudar a superar obstáculos técnicos e colaborativos. Um estudo foi conduzido com estudantes de graduação que foram treinados em práticas de OSINT. O estudo incluiu três fases, com o objetivo de identificar desafios, integrar a IA e testar as abordagens desenvolvidas com pequenas empresas.

Fase 1: Identificando Desafios

Na primeira fase, workshops foram realizados para entender os obstáculos comuns enfrentados pelos analistas estudantes durante o processo de investigação OSINT. Os participantes foram convidados a refletir sobre suas experiências anteriores e identificar desafios específicos. Os principais desafios incluíram Considerações Éticas, definição de objetivos de investigação, lacunas de habilidades e dificuldades na verificação e organização de dados.

Fase 2: Explorando a Integração da IA

A segunda fase focou em explorar como a IA generativa poderia abordar os desafios identificados. Os alunos participaram de oficinas de design para gerar ideias e prototipar soluções. Eles experimentaram com sondas de IA generativa para entender melhor como essas ferramentas poderiam ser usadas efetivamente no processo de OSINT. O feedback foi coletado e várias ideias de design foram geradas para aprimorar a integração da IA nos fluxos de trabalho de OSINT.

Fase 3: Aplicação no Mundo Real

Durante a fase final, os conceitos desenvolvidos nas duas primeiras fases foram aplicados em investigações do mundo real. Os estudantes realizaram avaliações de vulnerabilidade para pequenas empresas, aproveitando ferramentas de IA para agilizar seus fluxos de trabalho. As experiências adquiridas durante as investigações forneceram mais insights sobre a utilidade prática da IA em investigações de OSINT.

Descobertas do Estudo

O estudo rendeu várias percepções importantes sobre os desafios e oportunidades associados a avaliações de vulnerabilidade baseadas em OSINT.

Principais Desafios Identificados

  1. Navegando em Limites Éticos e Legais: Estudantes frequentemente enfrentaram dilemas em torno do uso de várias ferramentas e técnicas durante investigações. Entender o que é permitível era crítico.

  2. Definindo Objetivos de Investigação: Os participantes tiveram dificuldades para estabelecer objetivos claros, o que levou a desentendimentos e ineficiências.

  3. Lacunas de Habilidade na Coleta de Dados: Um nível técnico variado entre os analistas estudantes dificultou a utilização de ferramentas avançadas de OSINT.

  4. Problemas de Apresentação de Informações: A ausência de uma estrutura clara dificultou a apresentação dos dados coletados de forma eficaz.

  5. Lidando com Grandes Volumes de Informações Brutas: A quantidade avassaladora de informações muitas vezes tornava difícil focar nos detalhes mais relevantes.

  6. Verificando Informações Públicas: Confirmar a precisão das informações coletadas era difícil, especialmente quando múltiplas fontes não estavam disponíveis.

  7. Identificando Vulnerabilidades: Os estudantes não tinham um entendimento profundo das vulnerabilidades comuns e como interpretar informações técnicas complexas.

  8. Desenvolvendo Recomendações Ação: Criar recomendações com base nos dados analisados provou ser um desafio contínuo.

  9. Falta de Compreensão das Expectativas: Os participantes não sabiam como deveria ser um produto final bem-sucedido, levando a qualidade inconsistente nos relatórios.

Benefícios da Integração da IA

A integração da IA generativa ajudou a abordar muitos desses desafios. Por exemplo:

  • Confiança e Segurança Operacional: Ferramentas de IA ajudaram os estudantes a analisar medidas de privacidade de diferentes ferramentas e entender recursos confiáveis.
  • Divisão de Tarefas: A IA permitiu que os participantes dividissem tarefas complexas em subtarefas gerenciáveis, melhorando a organização.
  • Identificação de Ferramentas: Os estudantes usaram IA para coletar informações sobre ferramentas eficazes de OSINT, aprimorando sua capacidade de escolher recursos apropriados.
  • Desenvolvimento de Modelos: A IA ajudou a criar modelos estruturados para documentação, melhorando a consistência da organização dos dados.
  • Estruturação de Informações: A IA ajudou os estudantes a organizar grandes quantidades de dados brutos em formatos legíveis, facilitando a documentação.
  • Suporte à Verificação Cruzada: A IA sugeriu fontes potenciais para verificação, auxiliando os estudantes a confirmarem a precisão de suas descobertas.
  • Interpretação de Vulnerabilidades: A IA forneceu explicações mais claras sobre vulnerabilidades, permitindo uma melhor análise.
  • Recomendações Ação: A IA desempenhou um papel no desenvolvimento de recomendações personalizadas, melhorando a clareza do aconselhamento fornecido aos clientes.

Aplicação no Mundo Real das Descobertas

A terceira fase do estudo envolveu aplicar os conceitos gerados das duas fases anteriores em investigações do mundo real. As equipes de estudantes forneceram avaliações para pequenas empresas, oferecendo insights sobre suas potenciais vulnerabilidades.

Feedback dos Clientes

O feedback das pequenas empresas destacou o valor das avaliações de vulnerabilidade fornecidas. Os clientes apreciaram os insights detalhados que receberam e as Recomendações Práticas para lidar com os riscos identificados. A maioria das empresas expressou interesse em visitas de retorno para novas avaliações, indicando uma recepção positiva dos serviços da clínica.

Dinâmica de Colaboração e Liderança

O estudo também explorou a dinâmica de colaboração entre os estudantes durante as investigações. Uma liderança eficaz desempenhou um papel crucial na gestão de tarefas e na garantia de comunicação clara. As descobertas ressaltaram a importância de manter formatação e qualidade consistentes em documentos compartilhados, o que às vezes era desafiador devido aos diferentes níveis de expertise entre os participantes.

Ferramentas para Colaboração

O uso de plataformas colaborativas, como o Team-GPT, foi benéfico para facilitar a interação entre os membros da equipe. Espaços de trabalho compartilhados permitiram visibilidade e acesso a recursos, embora a fragmentação excessiva nas discussões às vezes levasse a confusões.

Conclusão

O modelo da clínica OSINT apresenta uma abordagem inovadora para fornecer avaliações de cibersegurança para pequenas empresas, enquanto permite que os estudantes ganhem experiência prática. Esta pesquisa ressalta como a integração da IA generativa pode aumentar a eficácia das investigações de OSINT, abordando desafios-chave e melhorando a colaboração. As percepções obtidas das aplicações do mundo real validam o potencial deste modelo para ajudar pequenas empresas a entender e mitigar seus riscos cibernéticos de forma eficaz.

Direções Futuras

Com base nas descobertas, pesquisas futuras podem explorar melhorias adicionais na colaboração entre humanos e IA. Abordar medidas de privacidade, integrar ferramentas de coleta de dados, fornecer maior controle sobre os resultados da IA, desenvolver modelos de prompt colaborativos e melhorar o suporte à liderança são áreas vitais para aprimoramento. Ao refinar as ferramentas e fluxos de trabalho, a clínica OSINT pode servir melhor tanto os estudantes quanto as pequenas empresas na luta contínua contra ameaças cibernéticas.

Modelos de Prompt para Investigações OSINT

Modelos de Planejamento

  • Definir o Escopo da Investigação: Preencher os objetivos específicos da investigação e detalhar os resultados esperados.
  • Identificar Papéis da Equipe: Atribuir papéis com base nas forças e áreas de especialização dos membros da equipe.
  • Esboçar Tarefas Principais: Dividir as principais tarefas necessárias para completar a investigação.

Modelos de Coleta de Dados

  • Coletando Recursos: Criar uma abordagem estruturada para documentar as fontes de informações coletadas.
  • Acompanhando o Progresso: Usar uma lista de verificação para garantir que todos os dados necessários foram coletados.
  • Organizando Dados Coletados: Desenvolver um formato padronizado para apresentar dados coletados.

Modelos de Processamento e Análise de Dados

  • Organização de Dados: Esboçar o método de organização dos dados coletados em formatos utilizáveis.
  • Métodos de Análise: Listar as ferramentas e técnicas para analisar os dados coletados.
  • Documentando Descobertas: Criar um modelo para relatar descobertas, incluindo detalhes de apoio necessários.

Modelos de Difusão

  • Estrutura de Apresentação ao Cliente: Desenvolver um formato padrão para apresentar informações aos clientes.
  • Reportando Recomendações: Criar um modelo para delinear recomendações acionáveis.
  • Mecanismo de Feedback: Incluir uma seção para o feedback do cliente sobre os serviços de avaliação fornecidos.
Fonte original

Título: OSINT Clinic: Co-designing AI-Augmented Collaborative OSINT Investigations for Vulnerability Assessment

Resumo: Small businesses need vulnerability assessments to identify and mitigate cyber risks. Cybersecurity clinics provide a solution by offering students hands-on experience while delivering free vulnerability assessments to local organizations. To scale this model, we propose an Open Source Intelligence (OSINT) clinic where students conduct assessments using only publicly available data. We enhance the quality of investigations in the OSINT clinic by addressing the technical and collaborative challenges. Over the duration of the 2023-24 academic year, we conducted a three-phase co-design study with six students. Our study identified key challenges in the OSINT investigations and explored how generative AI could address these performance gaps. We developed design ideas for effective AI integration based on the use of AI probes and collaboration platform features. A pilot with three small businesses highlighted both the practical benefits of AI in streamlining investigations, and limitations, including privacy concerns and difficulty in monitoring progress.

Autores: Anirban Mukhopadhyay, Kurt Luther

Última atualização: 2024-12-13 00:00:00

Idioma: English

Fonte URL: https://arxiv.org/abs/2409.11672

Fonte PDF: https://arxiv.org/pdf/2409.11672

Licença: https://creativecommons.org/licenses/by/4.0/

Alterações: Este resumo foi elaborado com a assistência da AI e pode conter imprecisões. Para obter informações exactas, consulte os documentos originais ligados aqui.

Obrigado ao arxiv pela utilização da sua interoperabilidade de acesso aberto.

Mais de autores

Artigos semelhantes