FinBERT 开源项目使用教程

【免费下载链接】FinBERT A Pretrained BERT Model for Financial Communications. https://arxiv.org/abs/2006.08097 项目地址: https://gitcode.com/gh_mirrors/finbe/FinBERT

1. 项目介绍

FinBERT是一个基于BERT模型预训练的金融通信文本模型。它旨在提高金融自然语言处理（NLP）的研究和实践水平。FinBERT在以下三个金融通信语料库上进行训练，总共有4.9亿个标记：

• 企业报告10-K & 10-Q：2.5亿个标记
• 收益电话记录：1.3亿个标记
• 分析师报告：1.1亿个标记

FinBERT在各种金融NLP任务中取得了最先进的表现，包括情感分析、ESG分类、前瞻性声明（FLS）分类等。

2. 项目快速启动

首先，确保你的环境中已经安装了必要的库。以下是一个示例的Python环境设置：

# 安装transformers库
!pip install transformers

# 导入必要的模块
from transformers import BertTokenizer, BertForSequenceClassification
import numpy as np

接下来，你可以使用以下代码加载FinBERT模型并进行简单的情感分析：

# 加载预训练的FinBERT模型
finbert = BertForSequenceClassification.from_pretrained('yiyanghkust/finbert-tone', num_labels=3)

# 加载FinBERT的分词器
tokenizer = BertTokenizer.from_pretrained('yiyanghkust/finbert-tone')

# 待分析的句子
sentences = [
    "资金短缺，我们需要额外融资",
    "增长强劲，我们流动性充足",
    "对我们的财务状况有疑问",
    "利润持平"
]

# 分词和填充
inputs = tokenizer(sentences, return_tensors='pt', padding=True)

# 模型预测
outputs = finbert(**inputs)

# 定义标签
labels = {0: '中性', 1: '正面', 2: '负面'}

# 打印预测结果
for idx, sent in enumerate(sentences):
    print(f"{sent} -- {labels[np.argmax(outputs.detach().numpy()[idx])]}")

3. 应用案例和最佳实践

FinBERT可以用于多种金融NLP任务，以下是一些应用案例：

• 情感分析：分析财务报告或社交媒体上的评论，了解市场情绪。
• ESG分类：对公司的ESG（环境、社会、治理）表现进行分类。
• 前瞻性声明分类：识别报告中是否包含对公司未来的前瞻性声明。

在使用FinBERT时，最佳实践包括：

• 使用适当的预训练模型或微调模型，以匹配你的特定任务。
• 在适当的金融语料库上微调模型，以提高模型的准确性。
• 使用交叉验证和适当的评估指标来评估模型性能。

4. 典型生态项目

FinBERT的生态系统中包括以下典型项目：

• FinBERT-Pretrained：预训练的FinBERT模型，适用于大规模金融文本。
• FinBERT-Sentiment：用于情感分类任务的FinBERT模型。
• FinBERT-ESG：用于ESG分类任务的FinBERT模型。
• FinBERT-FLS：用于前瞻性声明分类任务的FinBERT模型。

通过这些项目，研究人员和实践者可以利用FinBERT进行更广泛的金融相关预测，包括股票回报、股票波动、公司欺诈等。

【免费下载链接】FinBERT A Pretrained BERT Model for Financial Communications. https://arxiv.org/abs/2006.08097 项目地址: https://gitcode.com/gh_mirrors/finbe/FinBERT