Come evitare post con parole proibite?

di il
6 risposte

Come evitare post con parole proibite?

Ciao a tutti , vorrei chiedere come è possibile validare i post e pubblicarli verificando che non contengano parole proibite o link da deprecare,esistono delle liste ma mi domando quanto possano essere complete? ,inoltre si può offendere anche senza essere volgari quindi come effettuare un controllo in modo automatico? ,pongo queste domande perchè avrei in mente di fare un forum per allenarmi in asp .net core ,spero in una vostra risposta,grazie,ciao

6 Risposte

  • Re: Come evitare post con parole proibite?

    Praticamente impossibile
  • Re: Come evitare post con parole proibite?

    Il problema che stai descrivendo e' un cassico problema di Machine Learning applicato al Natural Language Processing.

    Si va dal semplice (NON banale) all'estremamente complicato.
    NON ESISTE un metodo unico e sicuro al 100%, per infiniti motivi che puoi ben immaginare:

    1) ci sono le parolacce, in italiano ma anche in altre lingue, che possono essere usate in italiano perche' ben conosciute, il modo di scrivere le parole in cui e' ovvio il significato ma non sono scritte con i caratteri normali, ecc
    2) ci sono modi di dire, i doppi sensi, le affermazioni che vogliono dire giusto il contrario (non sono un lingusta, non ricordo il termine)
    3) ci sono utilizzi di parolacce in contesti che non implicano un'offesa: ad esempio se si vuole spiegare il significato di una parola offensiva, quella parola, ovviamente, viene scritta, ma non e' un'offesa.
    4) ci sono i termini dialettali, ...

    ecc...

    Quindi non esiste LA soluzione.

    Direi che questo punto hai DUE strade:

    1) ti alleni in ASP.NET a fare forum (che barba, pallosissimo , giusto per usare un paio di parolacce non eccessivamente volgari ) e trascuri tranquillamente i post volgari, OPPURE

    2) ti metti a studiare Machine Learning applicato al Natural Language Processing, piu' complicato, ma INFINITAMENTE piu' interessante

    Puoi tranquillamente considerarlo un BEL investimento per un OTTIMO lavoro futuro.
    NON c'e' da studiare giorni, ma ANNI.
    Se ti inventi nuovi modi, piu' efficienti/sicuri, per identificare questo tipo di post, hai il lavoro assicurato
    Per mal che vada, un posto come ricercatore all'universita'.

    NON PENSARE che sia una cosa da superiori/triennale: e' robbba da dottorato di ricerca e anche piu' in la!

    @oregon: non impossibile. Complicato. Si fa della sentiment-analisys con i tweet La stessa tecnica puo' essere utilizzata per dare una caratterizzazione ""offensiva"" del post
  • Re: Come evitare post con parole proibite?

    Migliorabile ... permettimi di dire che la sentiment analisys è una sce*** ed è solo di moda per vendere software inutile. Per il resto continuo a pensare che sia impossibile nel senso dell'individuazione al 100% ...
  • Re: Come evitare post con parole proibite?

    @oregon, permettimi di dirti che sono PERFETTAMENTE d'accordo con te


    COMUNQUE i concetti che sono stati sviluppati per convertire il testo in qualcosa che puo' essere usato con tecniche numeriche lo trovo decisamente interessante.




    No, il 100% e' sicuramente impossibile, MA i miglioramenti ci sono stati e c'e' ancora molto spazio per migliorare.

    Pensa solo alla qualita' delle traduzioni di Google: certo, non sono perfette, sono ancora mooolto claudicanti, MA se vuoi tradurre frasi non troppo complicate, sono decisamente migliori di quello che potrebbe fare uno che non sa la lingua.

    E comunque, gia se' si riuscisse ad eliminare un 60/70% sarebbe un bel traguardo.
  • Re: Come evitare post con parole proibite?

    Grazie per le risposte, vorrei chiedere,se possibile, come ad esempio è gestito in genere un forum ,un forum è agibile 24 ore su 24, quindi ci deve essere una persona che monitora i post decidendo quali pubblicare e quali no 24 su 24 ? ,l'amministratore riceve un alert per ogni nuovo messaggio nell'area "amministrazione"? ,grazie ,ciao
  • Re: Come evitare post con parole proibite?

    Oltre all'amministratore in genere ci sono più moderatori che intervengono eliminando post o interi thread se necessario. Magari non 24h su 24 ma nell'arco di una giornata. C'è sempre l:intervento umano anche se non immediato magari su segnalazione di altri utenti.
Devi accedere o registrarti per scrivere nel forum
6 risposte