Аналіз методів тренування вузькоспрямованих мовних моделей у сфері генерації договорів
Предметом дослідження є моделі та методи машинного навчання для генерації договорів в умовах обмежених ресурсів і способи порівняння та оцінювання їх ефективності. Мета роботи – аналіз підходів до розроблення вузькоспрямованих великих мовних моделей та визначення оптимального методу створення незал...
Saved in:
| Main Author: | |
|---|---|
| Format: | Article |
| Language: | English |
| Published: |
Kharkiv National University of Radio Electronics
2024-06-01
|
| Series: | Сучасний стан наукових досліджень та технологій в промисловості |
| Subjects: | |
| Online Access: | https://itssi-journal.com/index.php/ittsi/article/view/484 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| _version_ | 1849414403334602752 |
|---|---|
| author | Віталій Волоховський |
| author_facet | Віталій Волоховський |
| author_sort | Віталій Волоховський |
| collection | DOAJ |
| description |
Предметом дослідження є моделі та методи машинного навчання для генерації договорів в умовах обмежених ресурсів і способи порівняння та оцінювання їх ефективності. Мета роботи – аналіз підходів до розроблення вузькоспрямованих великих мовних моделей та визначення оптимального методу створення незалежних спеціалізованих систем, що дають змогу генерувати договори різними мовами в різних правових системах. У статті розв’язуються такі завдання: визначення наявних компаній та рішень, виявлення підходів до створення текстів природною мовою, аналіз способів оцінювання та порівняння таких систем, виявлення обмежень і недоліків сучасних рішень і підходів, пошук оптимального методу розроблення систем за умови обмежених ресурсів. Досягнуті результати: досліджено підходи до генерації текстів природною мовою та їх особливості; визначено архітектуру "Трансформер" як сучасний стандарт у сфері генерації текстової інформації; розглянуто види моделей на основі зазначеної архітектури; проаналізовано джерела даних для їх тренування; розглянуто методи адаптації моделей у вузькоспрямованих галузях; виявлено способи порівняння та оцінювання ефективності виконання різних завдань мовними моделями; виявлено недоліки наявних спеціалізованих мовних моделей і неповноту наборів метрик оцінювання завдання генерації договорів. Унаслідок аналітичного експерименту було визначено, що метод пошуково-доповненої генерації є найбільш оптимальним для розв’язання поставленого завдання в заданих умовах. Проведений експеримент та його результати можуть бути використані як основа для подальших досліджень у сфері розроблення вузькоспрямованих мовних моделей за умови обмежених ресурсів. Висновки. У статті проаналізовано методи генерації текстової інформації природною мовою за допомогою сучасних підходів машинного навчання. Виокремлено їх переваги й недоліки для невеликих компаній та наукових установ, які мають обмежені матеріальні та людські ресурси. Як приклад у роботі розглянуто спеціалізовану юридичну галузь і проблему генерації договорів та визначено найбільш оптимальний метод її розв’язання.
|
| format | Article |
| id | doaj-art-9764410264e64ab69de271df401bff38 |
| institution | Kabale University |
| issn | 2522-9818 2524-2296 |
| language | English |
| publishDate | 2024-06-01 |
| publisher | Kharkiv National University of Radio Electronics |
| record_format | Article |
| series | Сучасний стан наукових досліджень та технологій в промисловості |
| spelling | doaj-art-9764410264e64ab69de271df401bff382025-08-20T03:33:50ZengKharkiv National University of Radio ElectronicsСучасний стан наукових досліджень та технологій в промисловості2522-98182524-22962024-06-012(28)10.30837/2522-9818.2024.2.048Аналіз методів тренування вузькоспрямованих мовних моделей у сфері генерації договорівВіталій Волоховський0Харківський національний університет радіоелектроніки Предметом дослідження є моделі та методи машинного навчання для генерації договорів в умовах обмежених ресурсів і способи порівняння та оцінювання їх ефективності. Мета роботи – аналіз підходів до розроблення вузькоспрямованих великих мовних моделей та визначення оптимального методу створення незалежних спеціалізованих систем, що дають змогу генерувати договори різними мовами в різних правових системах. У статті розв’язуються такі завдання: визначення наявних компаній та рішень, виявлення підходів до створення текстів природною мовою, аналіз способів оцінювання та порівняння таких систем, виявлення обмежень і недоліків сучасних рішень і підходів, пошук оптимального методу розроблення систем за умови обмежених ресурсів. Досягнуті результати: досліджено підходи до генерації текстів природною мовою та їх особливості; визначено архітектуру "Трансформер" як сучасний стандарт у сфері генерації текстової інформації; розглянуто види моделей на основі зазначеної архітектури; проаналізовано джерела даних для їх тренування; розглянуто методи адаптації моделей у вузькоспрямованих галузях; виявлено способи порівняння та оцінювання ефективності виконання різних завдань мовними моделями; виявлено недоліки наявних спеціалізованих мовних моделей і неповноту наборів метрик оцінювання завдання генерації договорів. Унаслідок аналітичного експерименту було визначено, що метод пошуково-доповненої генерації є найбільш оптимальним для розв’язання поставленого завдання в заданих умовах. Проведений експеримент та його результати можуть бути використані як основа для подальших досліджень у сфері розроблення вузькоспрямованих мовних моделей за умови обмежених ресурсів. Висновки. У статті проаналізовано методи генерації текстової інформації природною мовою за допомогою сучасних підходів машинного навчання. Виокремлено їх переваги й недоліки для невеликих компаній та наукових установ, які мають обмежені матеріальні та людські ресурси. Як приклад у роботі розглянуто спеціалізовану юридичну галузь і проблему генерації договорів та визначено найбільш оптимальний метод її розв’язання. https://itssi-journal.com/index.php/ittsi/article/view/484велика мовна модель; генерація природної мови; договір; юридичний документ. |
| spellingShingle | Віталій Волоховський Аналіз методів тренування вузькоспрямованих мовних моделей у сфері генерації договорів Сучасний стан наукових досліджень та технологій в промисловості велика мовна модель; генерація природної мови; договір; юридичний документ. |
| title | Аналіз методів тренування вузькоспрямованих мовних моделей у сфері генерації договорів |
| title_full | Аналіз методів тренування вузькоспрямованих мовних моделей у сфері генерації договорів |
| title_fullStr | Аналіз методів тренування вузькоспрямованих мовних моделей у сфері генерації договорів |
| title_full_unstemmed | Аналіз методів тренування вузькоспрямованих мовних моделей у сфері генерації договорів |
| title_short | Аналіз методів тренування вузькоспрямованих мовних моделей у сфері генерації договорів |
| title_sort | аналіз методів тренування вузькоспрямованих мовних моделей у сфері генерації договорів |
| topic | велика мовна модель; генерація природної мови; договір; юридичний документ. |
| url | https://itssi-journal.com/index.php/ittsi/article/view/484 |
| work_keys_str_mv | AT vítalíjvolohovsʹkij analízmetodívtrenuvannâvuzʹkosprâmovanihmovnihmodelejusferígeneracíídogovorív |