Text Mining

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra softwarového inženýrství

Anotace:

S nástupem elektronických dokumentů nastala situace, kdy jejich počet roste mnohem vyšším tempem, než možnosti, schopnosti a ochota lidí je číst. Metody oboru Information Retrieval sice poskytují přehled o tom, ve kterých dokumentech se hledaná informace zřejmě nachází, ale to jenom znamená, že umožňují vybírat dokumenty podle klíčových slov, kterými indexování dokumentů charakterizuje jejich obsah. Tím jen vytvářejí síto, kterým protéká stále větší a větší počet dokumentů.

Metody oboru Text Mining mají za cíl nejen dokumenty vybírat podle klíčových slov, ale také určovat, co vypovídají. To je úloha velmi složitá, neboť souvisí se sémantikou přirozeného jazyka, kterou často i školení lidé interpretují nejednoznačně.

Text Mining zkoumá zejména následující možnosti práce s textem:

-Informatin extraction - identifikace klíčových komponent textu a vztahů mezi nimi.

-Topic tracking - inteligentní filtrování textů na základě profilu uživatele.

-Summarization - shrnutí obsahu textu.

-Sentence extraction - identifikace vět, které jsou pro obsah dokumentu klíčové.

-Kategorizace, klasifikace, clustering - rozdělování textů do tříd podle příbuznosti obsahu

-Concept linkage - hledání vztahů mezi texty, které mají společné koncepty.

Používají se statistické metody, metody information retrieval, metody počítačové linguistiky i klasifikační metody umělé intelligence.

Cílová skupina studentů:

Přednáška je primárně určena pro doktorandy.

Požadavky:

Osnova přednášek:

1.Text Mining, Data Mining, Knowledge Discovery

2.Text Processing ? základní pojmy

3.Information Retrieval - základní pojmy

3.1.Textové dokumenty a klíčová slova

3.2.Relevance a fuzzy logika

3.3.Indexování

3.4.Vektorový model

4.Latentní semantické indexování a singulární dekompozice matic

5.Clustering

5.1.Clustering klíčových slov

5.2.Clustering dokumentů

6.Klasifikace textů

6.1.Probabilistická klasifikace ? Naive Bayes

6.2.Klasifikace pomocí metody k-NN

6.3.Klasifikace pomocí rozhodovacích stromů

6.4.Klasifikace pomocí neuronových sítí

6.5.Klasifikace pomocí metody support vector machine

7.Metody linguistiky v text mining

7.1.Lexikon

7.2.Part-of-speech tagging

7.3.Named entity recognition

7.4.Parsing

7.5.Koreference

8.Aplikace

8.1. Automatická extrakce obsahu dokumentu

8.2. Automatické shrnutí obsahu dokumentu

8.3. Automatické odpovědi na dotazy

Osnova cvičení:

Cíle studia:

Cílová skupina studentů:

Přednáška je primárně určena pro doktorandy.

Studijní materiály:

Základem jsou materiály přednášejícího, které studenti obdrží.

Z dostupné literatury je přednášce nejblíže kniha:

Weiss, S.M. et all: Text Mining - Predictive Methods for Analyzing Unstructured Information. Springer, 2005.

Poznámka:

Další informace:

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů: