学生・若手研究者のためのBERTワークショップ

~BERTを使った自然言語処理の開発を2回のワークショップで体験!~

自然言語処理技術に対する期待と需要が高まる中、質の高い研究開発を行える人材の育成が望まれています。2018年にBERTが登場して以降、XLNet、ALBERT、RoBERTaといったBERTをベースとしたモデルが次々と登場しており、今後の自然言語処理において必須といえる状況となっています。こうした状況を踏まえ、本ワークショップでは、BERTなどの技術に興味はあるが実際に触れたことがない学生や若手研究者をメインターゲットとして(もちろん上記以外の方も歓迎です!)、テキスト分類タスクを通して実際にBERTを体験する場を提供します。

本ワークショップは、8月4日(木)と8月10日(水)の2日開催を予定しており、初日にタスクデータの説明とBERTでの基本的な分類方法について説明を行い、2日目には実際に体験した結果に基づいて質疑や議論をしていきます。初日と2日目の間に一週間程度、ご自身で自由な時間に行う体験期間を設けており、この期間に体験していただくことで初日に参加できなかった方でも2日目からの参加が可能です。初日の説明は動画として公開し、体験期間中はSlackなどを通して随時サポートを行います。デフォルトとしてご自身のPCでのGoogle Colaboratoryの利用を想定しております(当日にデモを体験されたい方は、こちらを参考に事前準備をお願いいたします。聴講だけを希望される場合は不要です)。また、体験教材としてWikipedia構造化プロジェクトである森羅2022のデータを用い、この森羅プロジェクトについても説明します。

本ワークショップを通して、最新の自然言語処理技術に対する理解を深めてもらいたいと考えています。また、学生や研究者間の意見交換の場としても活用して頂ければと思います。

<日時>
8月4日(木) 13:00-15:00と8月10日(水) 13:00-14:30の2日間

<参加方法>
形式:オンライン(Zoom)
 ※当日はミーティングを録画し、後日Web公開する予定です。

<参加申し込み>
1日目:8月4日(木)の申し込みはこちらからどうぞ(終了いたしました)

2日目:8月10日(水)の申し込みはこちらからどうぞ(終了いたしました)

<プログラム>
1日目:8月4日(木) 13:00-15:00
13:00-13:05 オープニング(動画, スライド)
13:05-13:35 BERTの説明(動画, スライド)
13:35-14:35 BERT体験(Google Colaboratory利用)(動画)
14:35-14:45 リーダーボードの説明(動画, スライド)
14:45-14:55 コミュニティの案内&森羅プロジェクトの説明(動画, スライド)
14:55-15:00 クロージング(動画)

2日目:8月10日(水) 13:00-14:30
13:00-13:05 オープニング(動画)
13:05-13:40 質疑応答(動画,スライド)
13:40-14:10 体験報告(動画,各teamスライド[みうら, Yuanzhi Ke, Akira Ogawa, Team久山田, NLPオールドタイマーズ)
14:10-14:25 森羅プロジェクトの紹介(〜知識グラフをみんなで作る〜)(動画,スライド)
14:25-14:30 クロージング(動画)

<参考資料>
当日は初学者の方にも分かりやすく説明していきますが、事前に以下の動画などをご覧いただくと、より深い理解につながりますので是非ご覧ください。

以下の図書も参考になります。

<コミュニティ>
不明な点などありましたら、以下のslackの#bert_workshop2022チャンネルでお気軽にお尋ねください。

      • 森羅slack (shinra2022.slack.com)への参加リンク
        • スクリプト(ipynb)は#bert_workshop2022チャンネルで配布しています。
        • 森羅プロジェクトへの参加を義務付けるものではありませんのでご参加ください。

<アンケート>
参加された方は、アンケートにご協力ください。