Paraphrasing and textual entailment recognition and generation

Abstract

Paraphrasing methods recognize, generate, or extract phrases, sentences, or longer natural language expressions that convey almost the same information. Textual entailment methods, on the other hand, recognize, generate, or extract pairs of natural language expressions, such that a human who reads (and trusts) the first element of a pair would most likely infer that the other element is also true. Paraphrasing can be seen as bidirectional textual entailment and methods from the two areas are often very similar. Both kinds of methods are useful, at least in principle, in a wide range of natural language processing applications, including question answering, summarization, text generation, and machine translation. In this thesis, we focus on paraphrase and textual entailment recognition, as well as paraphrase generation. We propose three paraphrase and textual entailment recognition methods, experimentally evaluated on existing benchmarks. The key idea is that by capturing similarities at various abstractions of the inputs, we can recognize paraphrases and textual entailment reasonably well. Additionally, we exploit WordNet and use features that operate on the syntactic level of the language expressions. The best of our three recognition methods achieves state of the art results on the widely used MSR paraphrasing corpus, but the simplest of our methods is also a very competitive baseline. On textual entailment datasets, our methods achieve worse results. Nevertheless, they perform reasonably well, despite being simpler than several other proposed methods; therefore, they can be considered as competitive baselines for future work. On the generation side, we propose a novel approach to paraphrasing sentences that produces candidate paraphrases by applying paraphrasing rules and then ranks the candidates. Furthermore, we propose a new methodology to evaluate the ranking components of generate-and-rank paraphrase generators. A new paraphrasing dataset was also created for evaluations of this kind, which was then used to show that the performance of our method's ranker improves when features from our paraphrase recognizer are also included...

Οι μέθοδοι παραφράσεων αναγνωρίζουν, παράγουν ή εξάγουν φράσεις προτάσεις οι μεγαλύτερες γλωσσικές εκφράσεις που περιέχουν περίπου την ίδια περίπου πληροφορία. Αντίθετα, οι μέθοδοι κειμενικής συνεπαγωγής αναγνωρίζουν, παράγουν ή εξάγουν ζεύγη γλωσσικών εκφράσεων, τέτοια ώστε ένας άνθρωπος ο οποίος διαβάζει (και εμπιστεύεται) το πρώτο μέλος του ζεύγους είναι πολύ πιθανό να συμπεράνει ότι και το δεύτερο μέλος του ζεύγους είναι αληθές. Οι παραφράσεις μπορούν να θεωρηθούν περιπτώσεις αμφίδρομης κειμενικής συνεπαγωγής και οι μέθοδοι που χρησιμοποιούνται στις δύο περιοχές είναι συχνά παρόμοιες. Και τα δύο είδη μεθόδων είναι χρήσιμα σε πολλές εφαρμογές επεξεργασίας φυσικής γλώσσας, όπως συστήματα ερωταποκρίσεων, παραγωγή φυσικής γλώσσα, παραγωγή περιλήψεων και μηχανική μετάφραση. Στην παρούσα διατριβή, επικεντρωνόμαστε στην αναγνώριση παραφράσεων και κειμενικής συνεπαγωγής, καθώς και στην παραγωγή παραφράσεων. Προτείνουμε τρεις μεθόδους αναγνώρισης παραφράσεων και κειμενικής συνεπαγωγής τις οποίες αξιολογούμε σε καθιερωμένα σύνολα δεδομένων. Η βασική ιδέα είναι ότι αναγνωρίζοντας ομοιότητα σε διάφορες παραλλαγές των γλωσσικών εκφράσεων, μπορούμε να αναγνωρίσουμε παραφράσεις και κειμενική συνεπαγωγή σε ικανοποιητικό βαθμό. Επιπλέον, χρησιμοποιούμε το WordNet καθώς και επιπλέον χαρακτηριστικά που ενεργούν στο συντακτικό επίπεδο των γλωσσικών εκφράσεων. Η καλύτερη από τις τρεις μεθόδους αναγνώρισης που προτείνουμε επιτυγχάνει τα καλύτερα αποτελέσματα στο ευρέως χρησιμοποιούμενο σώμα παραφράσεων MSR, ενώ και η απλούστερη από τις μεθόδους είναι ιδιαίτερα ανταγωνιστική. Όσον αφορά την κειμενική συνεπαγωγή οι μέθοδοί μας επιτυγχάνουν χειρότερα αποτελέσματα. Εν τούτοις, οι επιδόσεις τους είναι αρκετά καλές παρά το γεγονός ότι είναι απλούστερες από άλλες μεθόδους? συνεπώς μπορούν να θεωρηθούν ως ανταγωνιστικά βασικά συστήματα για μελλοντική έρευνα...