成蹊2024/日本語学講義D
をテンプレートにして作成
開始行:
[[成蹊2024]]
*日本語学講義D [#vb1e1a30]
-2024年度後期・金曜2限:''10:40~12:20''
-教室:7号館303
-Mail: ogiso@ogiso.net
-[[CoursePower授業ページ>https://lms.seikei.ac.jp/lms/lgi...
-[[コーパス検索アプリケーション''「中納言」''>https://chu...
-[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssbd...
**12/20 コーパスの語彙表とコロケーション強度/レポートテ...
***(参考)動画[#sbec698c]
-[[NINJAL言語学レクチャーシリーズ「コーパスを使って日本語...
--コロケーションについても解説しています。
***コーパスの語彙表 [#sb08c3df]
-語数表とは違ってどの語が何例ずつあるか集計した表(巨大な...
-BCCWJ
--短単位語彙表(Version 1.1) https://doi.org/10.15084/0000...
--長単位語彙表(Version 1.1) https://doi.org/10.15084/0000...
-CHJ
--『日本語歴史コーパス』統合語彙表(バージョン2023.03) h...
-SHC
--『昭和・平成書き言葉コーパス』短単位語彙表(バージョン2...
-CEJC
--https://www2.ninjal.ac.jp/conversation/cejc/cejc-wc.html
***コロケーション強度 [#y45adc9c]
-[[授業資料/コロケーション強度]]
-「玉葱」と共起する動詞の例
--[[collocation_sample.xlsx>https://www.dropbox.com/s/t1i...
-(応用)[[XLOOKUP>授業資料/XLOOKUP関数]]で、語彙表から調...
--[[サンプルデータ>https://www.dropbox.com/s/cb4tmh151mzp...
---このBBCWJの例では語彙素と語彙素読みをくっつけて検索キ...
***「みんなごん」 [#sce95675]
--「中納言」のコーパス誤り修正報告機能
**12/13 XLOOKUP(旧VLOOKUP)関数 [#gb1f53a9]
***XLOOKUP関数の利用 [#tf76047b]
-[[授業資料/XLOOKUP関数]]参照
***辞書引き集計 [#k380e1c9]
自分で作った(または誰かが用意してくれた)辞書データ(コ...
-例:形容詞の意味分類付与
--(参考)分類語彙表 https://clrd.ninjal.ac.jp/goihyo.html
--[[サンプルデータ(味・においの形容詞)>https://www.drop...
***レポートテーマについて [#vc3610a0]
-次回、レポートテーマ案を報告してもらいます
-1月以降、全員に短いパワーポイントを使ったライトニングト...
**12/6 集計の前処理と文字列関数 [#gb1f53a9]
***集計用の列を自分で用意する [#ccae4a87]
-検索例:蒲公英・向日葵・蓮華
--表記(ひらがな・カタカナ・漢字)別集計
---フィルタ機能を上手く使って「文字種」列を作る
-(参考)Mac版Excelと文字種
--Macではフィルタの際に平仮名と片仮名が区別されないので、...
---=unicode(文字列) :文字列の先頭文字の文字コード(Unico...
-応用:用法分類などなど
***出現サンプル数の調査(重複の削除) [#ma197696]
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
-例:「俺・僕・私」
***ランダムサンプリング調査 [#j4516bb3]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-例:「られる」「全然」
***Excelの文字列関数 [#r56f9082]
集計に必要な情報をフィールドから切り出すことで集計に使う
-[[授業資料/EXCELの文字列関数]]参照
***レポートテーマについて [#l6cf653b]
-授業で習得したコーパスの利用方法を活用し、日本語について...
--※原則として授業時に調査・発表した内容を扱うこと。
-普段から見聞きする言葉に気をつけるとともに、他の授業や書...
-ひとつの言葉から、同種の別の語や違う観点からの観察などへ...
-参考
--[[〈参考〉 国語に関する世論調査の結果について(文化庁)...
--[[〈参考〉国語研・ことばの疑問>https://kotobaken.jp/qa/]]
--[[〈参考〉NHK放送文化研究所・ことばの研究>https://www.n...
-分野
--表記
--類義語・対義語
--語形
--語法
--意味
-観点
--レジスター差
--性差
--年代差
--通時変化
※レポートテーマに関する小プレゼンテーションについて
-1月以降、全員に短いパワーポイントを使ったライトニングト...
**11/29 コーパスの語数表と調整頻度 [#ff5d8ecd]
***「中納言」検索課題 [#t9480bc2]
-[[資料ダウンロード>https://lms.seikei.ac.jp/lms/lginLgir...
***BCCWJ利用の落とし穴(設計を踏まえたコーパス利用の必要...
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--→調整頻度の計算
---cf.人口あたりの事故件数,1平方キロあたりの…etc.
-BCCWJの語数
--https://ccd.ninjal.ac.jp/bccwj/bcc-chu-suw.html
-短単位語数表をピボットテーブルで集計
--短単位語数表:http://doi.org/10.15084/00003226
***調整頻度(pmw) [#v1c12e52]
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母にする
-調整頻度には100万語あたりの頻度(pmw)がよく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-例:BCCWJ「パソコン」「立ち上げる」
--※用例数の増加と、コーパス中の年ごとのテキスト量の違いを...
-例:BCCWJ「矢張り」(語形別)
--※割合を比較するだけなら調整頻度を出す必要はないが、どの...
***コーパスの語数表 [#j83ebf71]
-BCCWJ
--短単位語数表Excel http://doi.org/10.15084/00003226
--長単位語数表Excel http://doi.org/10.15084/00003224
-[[CEJC>https://www2.ninjal.ac.jp/conversation/cejc.html]]
--[[CEJC短単位語数表_品詞構成表_語種構成表_ver202209.zip>...
-[[CHJ>https://clrd.ninjal.ac.jp/chj/chj-wc.html]]
--短単位語数表Excel(バージョン2022.03) https://clrd.ninja...
--長単位語数表Excel(バージョン2022.03) https://clrd.ninja...
-[[SHC>https://clrd.ninjal.ac.jp/shc/stats.html]]
--短単位語数表CSV https://clrd.ninjal.ac.jp/shc/doc/SHC_W...
***(Excel基礎知識)セルの相対参照と絶対参照 [#e418e4aa]
-A1:相対参照
-$A$1:絶対参照
-$A1:列のみ絶対参照
**11/22 &color(red){休み 欅祭}; [#l13f3cf7]
**11/15 第8回 Excelによる検索結果の集計(2) [#e531f71e]
***Excelの基礎 [#t5ba152a]
-並べ替え(ソート)
--反転前文脈の使い方
-フィルタ(絞り込み)
--テキストフィルタ
--多重フィルター(複数の条件指定)
***【重要】ピボットテーブルの使い方 [#d0a7589d]
-ピボットテーブル
-ピボットグラフ
-参考:CHJの犬と猫
--動画:『日本語歴史コーパス』のかんたんな使い方─犬派?猫...
***複数の検索結果の結合 [#l9b3620b]
一度にピボットテーブルで集計できるように一つの表にまとめる
-※必ず表をくっつけること(空行を入れるとそこで表が切れて...
-例:ワイン・葡萄酒 ※単位数が違うので検索条件式でも一つ...
キー: 語彙素="ワイン";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS...
ショートカットキーを活用すると便利
-Ctrl((Macの場合はCommand))+End((EndキーはノートPCではし...
-Shift+Ctrl+End((EndがFn+→の場合は、Shift+Ctrl+Fn+→を同時...
+表をコピー
--Ctrl+Home((HomeキーはノートPCではしばしばFn+←))(表の左...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓(表の一番下の行に移動), ↓(1行下へ), Ctrl+V(...
-[[授業資料/覚えておきたいショートカットキー]]
または、「検索条件式ごとに出力ファイルを分割する」を外し...
たくさんまとめて調べたい場合には特に便利
キー: 語彙素="ワイン";
キー: 語彙素="ブランデー";
キー: 語彙素="ウイスキー";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS...
キー: 語彙素="日本" AND 後方共起: 語彙素="酒" ON 1 WORDS...
**11/8 第7回 「中納言」の使い方(3) / Excelによる検索結果...
***復習 [#q1d891fe]
-検索語の条件指定
-複数単位の組み合わせ
***位置情報と用例へのパーマリンク [#fecf8e21]
-位置検索
--''サンプルID,開始位置''((サンプル先頭からの文字数を10倍...
--位置検索での区切り記号はカンマのほかタブやスペースでも可
-用例へのpermalink
--CHJ源氏冒頭の「やんごとなし」:https://chunagon.ninjal....
***検索条件式の利用 [#r945c6c0]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
↓これだけでもいい(WITH OPTIONS 以下は式で指定がない場合...
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
***OR検索 [#q9b90c80]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: (語彙素="言葉" OR 語彙素="言語") ON 1 WOR...
***周辺語検索 [#yaad8b13]
-「美しい」の前後3語以内に出現する名詞(平安仮名文学)
キー: 品詞 LIKE "名詞%"
AND 共起: 語彙素="美しい" BETWEEN -3 AND 3 WORDS FROM ...
IN subcorpusName="平安-仮名文学" AND core="true"
-「言葉」の前後2語以内に出現する形容詞・形状詞
キー: (品詞 LIKE "形状詞%" OR 品詞 LIKE "形容詞%")
AND 共起: 語彙素="言葉" BETWEEN -2 AND 2 WORDS FROM キー
***「中納言」検索結果のダウンロードとExcelでの利用 [#m04a...
+ダウンロード
+Excelでインポート
-データの形式
--タブ区切りテキストの各列
**11/1 第6回 「中納言」の使い方(2) [#y361ac61]
-3.4 複数単位の組み合わせ(共起・連接)から(p.6)
**10/25 第5回 コーパスの形態論情報(2)/「中納言」の使い...
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位:MeCabとUniDicを使った形態素解析で情報付与
-長単位:Comainu(など)で短単位を組み上げる
***形態素解析を試してみる [#gf5bf622]
-[[Web茶まめ>https://chamame.ninjal.ac.jp/]]
--https://chamame.ninjal.ac.jp/
--新聞と文学作品の語種比率比較
***形態素解析の仕組み [#e1069790]
-[[授業資料/形態素解析]]
***「中納言」の使い方 [#b5d4323a]
--[[配布資料・中納言の使い方>https://lms.seikei.ac.jp/lms...
**10/18 &color(red){休み};(四大学運動競技大会) [#cb023...
**10/11 第4回 コーパスの形態論情報 [#mbc48064]
***利用する側から見たコーパスの設計 [#p142476c]
-BCCWJでもCHJでも、どのように設計されているかを知らないと...
--サブコーパスのサイズを無視した比較
--バランスのとれていない項目間の単純比較(BCCWJの年代、CH...
-今後の授業の中で詳しく説明していきます
***コーパスの形態論情報 [#w3c3c79b]
--http://clrd.ninjal.ac.jp/bccwj/morphology.html
-短単位と長単位
--[[(スライド)長単位と短単位>https://lms.seikei.ac.jp/l...
--[[長単位と短単位・資料>https://lms.seikei.ac.jp/lms/lgi...
--(参考)動画:コーパス検索システムの言語単位『短単位』 ...
***品詞体系 [#d6776112]
-BCCWJ・CHJは[[UniDic>https://clrd.ninjal.ac.jp/unidic/]]...
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://lms.seikei.ac.jp/lms/lginLgir/...
***参考資料 [#t1ff9987]
-BCCWJ関連報告書 http://clrd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>http://doi.org/10.150...
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位:MeCabとUniDicを使った形態素解析で情報付与
-長単位:長単位解析器で短単位を組み上げる
***形態素解析を試してみる [#gf5bf622]
-[[Web茶まめ>https://chamame.ninjal.ac.jp/]]
--https://chamame.ninjal.ac.jp/
***形態素解析の仕組み [#e1069790]
-[[授業資料/形態素解析]]
***「中納言」の使い方 [#b5d4323a]
--[[配布資料・中納言の使い方>https://lms.seikei.ac.jp/lms...
**10/4 第3回 日本語コーパスの紹介(2)『日本語日常会話コ...
***(前回補足)参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス(BCCWJ)
--[[現代日本語書き言葉均衡コーパス:概要>https://clrd.nin...
--BCCWJの基本設計:https://clrd.ninjal.ac.jp/bccwj/basic-...
--サンプリング:https://clrd.ninjal.ac.jp/bccwj/sampling....
--XMLによる電子化:https://clrd.ninjal.ac.jp/bccwj/XML.html
***「日本語日常会話コーパス」(CEJC)の設計・構成 [#x9f78...
-https://www2.ninjal.ac.jp/conversation/cejc.html
-[[『日本語日常会話コーパス』—設計・構築・特徴(報...
***「日本語歴史コーパス」(CHJ)の構成 [#x9f78d1c]
-https://clrd.ninjal.ac.jp/chj/
-残された資料に限りがある(そもそも偏りがある)歴史的なコ...
:近世以前|残されている資料が少なく、できるだけ(可能なら...
:近世(後期)以降|偏りはあるものの選べるだけの資料がある...
-[[『日本語歴史コーパス』>https://clrd.ninjal.ac.jp/chj/]...
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本:年代・著者(・地域)のバランスを...
***近代語コーパスの場合 [#p0de8288]
-近代雑誌(現在はCHJの一部)
--多様な記事を含む「総合雑誌」を対象とすることでバランス...
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://clrd.ninjal.ac.jp/cmj/taiyo...
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽(・中央公論・文...
-近代小説
--複数の有識者が日本語資料として選定・投票した結果(1980...
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi...
***「昭和・平成書き言葉コーパス」(SHC)の設計・構成 [#w0...
-https://clrd.ninjal.ac.jp/shc/
-[[「『昭和・平成書き言葉コーパス』の設計・構築・公開」『...
**9/27 第2回 コーパスとは 日本語コーパスの紹介(1)『現...
***「中納言」授業アカウント配布 [#k69da28b]
-授業で使うコーパスが授業期間の半年間のみ使えるアカウント...
-個人アカウントを持っている人はそれを使ってください
https://chunagon.ninjal.ac.jp/
***コーパスを使ってみる [#s1b41ed3]
細かい話は抜きで「中納言」でコーパスを使ってみよう
-『現代日本語書き言葉均衡コーパス』(BCCWJ)
-コアデータのみを対象とする指定(負荷軽減のため)
-文字列検索
-短単位検索
***コーパスとは [#t54768fa]
--以下、[[スライド>https://lms.seikei.ac.jp/lms/lginLgir/...
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
-さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 ...
--参考:[[「ひまわり」パッケージ>https://www2.ninjal.ac.j...
-Web上のデータ
--検索サイトの利用
--WAC(Web as Corpus)
-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語...
***コーパスへの要請 [#n1ef5148]
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサ...
-https://clrd.ninjal.ac.jp/bccwj/
-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題
**09/20 第1回 イントロダクション [#a2711c5f]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[国立国語研究所コーパス開発センター>https://clrd.ninja...
***授業内容等の確認 [#e55ee18f]
-シラバスの確認
--[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssb...
--この授業の目的
--授業の進め方
--評価方法
-受講者アンケート
--関心のある分野について
--PC等のスキルについて
***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--コーパス検索システム[[中納言>https://chunagon.ninjal.ac...
---[[「現代日本語書き言葉均衡コーパス(BCCWJ)」>https://...
---[[「日本語日常会話コーパス(CEJC)」>https://www2.ninj...
---[[「日本語歴史コーパス(CHJ)」>https://clrd.ninjal.ac...
---[[「昭和・平成書き言葉コーパス(SHC)」>https://clrd.n...
-Excelによる集計
--ピボットテーブル
--文字列関数・VLOOKUP関数
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
***「中納言」アカウントについて [#t6709ede]
-「中納言」オンライン利用申込み
--他のコーパス無含めて今後も利用したい場合は下記から個人...
--https://chunagon.ninjal.ac.jp/useraccount/register
***授業で利用する主なソフトウェア・Webアプリケーション(...
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
終了行:
[[成蹊2024]]
*日本語学講義D [#vb1e1a30]
-2024年度後期・金曜2限:''10:40~12:20''
-教室:7号館303
-Mail: ogiso@ogiso.net
-[[CoursePower授業ページ>https://lms.seikei.ac.jp/lms/lgi...
-[[コーパス検索アプリケーション''「中納言」''>https://chu...
-[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssbd...
**12/20 コーパスの語彙表とコロケーション強度/レポートテ...
***(参考)動画[#sbec698c]
-[[NINJAL言語学レクチャーシリーズ「コーパスを使って日本語...
--コロケーションについても解説しています。
***コーパスの語彙表 [#sb08c3df]
-語数表とは違ってどの語が何例ずつあるか集計した表(巨大な...
-BCCWJ
--短単位語彙表(Version 1.1) https://doi.org/10.15084/0000...
--長単位語彙表(Version 1.1) https://doi.org/10.15084/0000...
-CHJ
--『日本語歴史コーパス』統合語彙表(バージョン2023.03) h...
-SHC
--『昭和・平成書き言葉コーパス』短単位語彙表(バージョン2...
-CEJC
--https://www2.ninjal.ac.jp/conversation/cejc/cejc-wc.html
***コロケーション強度 [#y45adc9c]
-[[授業資料/コロケーション強度]]
-「玉葱」と共起する動詞の例
--[[collocation_sample.xlsx>https://www.dropbox.com/s/t1i...
-(応用)[[XLOOKUP>授業資料/XLOOKUP関数]]で、語彙表から調...
--[[サンプルデータ>https://www.dropbox.com/s/cb4tmh151mzp...
---このBBCWJの例では語彙素と語彙素読みをくっつけて検索キ...
***「みんなごん」 [#sce95675]
--「中納言」のコーパス誤り修正報告機能
**12/13 XLOOKUP(旧VLOOKUP)関数 [#gb1f53a9]
***XLOOKUP関数の利用 [#tf76047b]
-[[授業資料/XLOOKUP関数]]参照
***辞書引き集計 [#k380e1c9]
自分で作った(または誰かが用意してくれた)辞書データ(コ...
-例:形容詞の意味分類付与
--(参考)分類語彙表 https://clrd.ninjal.ac.jp/goihyo.html
--[[サンプルデータ(味・においの形容詞)>https://www.drop...
***レポートテーマについて [#vc3610a0]
-次回、レポートテーマ案を報告してもらいます
-1月以降、全員に短いパワーポイントを使ったライトニングト...
**12/6 集計の前処理と文字列関数 [#gb1f53a9]
***集計用の列を自分で用意する [#ccae4a87]
-検索例:蒲公英・向日葵・蓮華
--表記(ひらがな・カタカナ・漢字)別集計
---フィルタ機能を上手く使って「文字種」列を作る
-(参考)Mac版Excelと文字種
--Macではフィルタの際に平仮名と片仮名が区別されないので、...
---=unicode(文字列) :文字列の先頭文字の文字コード(Unico...
-応用:用法分類などなど
***出現サンプル数の調査(重複の削除) [#ma197696]
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
-例:「俺・僕・私」
***ランダムサンプリング調査 [#j4516bb3]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-例:「られる」「全然」
***Excelの文字列関数 [#r56f9082]
集計に必要な情報をフィールドから切り出すことで集計に使う
-[[授業資料/EXCELの文字列関数]]参照
***レポートテーマについて [#l6cf653b]
-授業で習得したコーパスの利用方法を活用し、日本語について...
--※原則として授業時に調査・発表した内容を扱うこと。
-普段から見聞きする言葉に気をつけるとともに、他の授業や書...
-ひとつの言葉から、同種の別の語や違う観点からの観察などへ...
-参考
--[[〈参考〉 国語に関する世論調査の結果について(文化庁)...
--[[〈参考〉国語研・ことばの疑問>https://kotobaken.jp/qa/]]
--[[〈参考〉NHK放送文化研究所・ことばの研究>https://www.n...
-分野
--表記
--類義語・対義語
--語形
--語法
--意味
-観点
--レジスター差
--性差
--年代差
--通時変化
※レポートテーマに関する小プレゼンテーションについて
-1月以降、全員に短いパワーポイントを使ったライトニングト...
**11/29 コーパスの語数表と調整頻度 [#ff5d8ecd]
***「中納言」検索課題 [#t9480bc2]
-[[資料ダウンロード>https://lms.seikei.ac.jp/lms/lginLgir...
***BCCWJ利用の落とし穴(設計を踏まえたコーパス利用の必要...
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--→調整頻度の計算
---cf.人口あたりの事故件数,1平方キロあたりの…etc.
-BCCWJの語数
--https://ccd.ninjal.ac.jp/bccwj/bcc-chu-suw.html
-短単位語数表をピボットテーブルで集計
--短単位語数表:http://doi.org/10.15084/00003226
***調整頻度(pmw) [#v1c12e52]
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母にする
-調整頻度には100万語あたりの頻度(pmw)がよく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-例:BCCWJ「パソコン」「立ち上げる」
--※用例数の増加と、コーパス中の年ごとのテキスト量の違いを...
-例:BCCWJ「矢張り」(語形別)
--※割合を比較するだけなら調整頻度を出す必要はないが、どの...
***コーパスの語数表 [#j83ebf71]
-BCCWJ
--短単位語数表Excel http://doi.org/10.15084/00003226
--長単位語数表Excel http://doi.org/10.15084/00003224
-[[CEJC>https://www2.ninjal.ac.jp/conversation/cejc.html]]
--[[CEJC短単位語数表_品詞構成表_語種構成表_ver202209.zip>...
-[[CHJ>https://clrd.ninjal.ac.jp/chj/chj-wc.html]]
--短単位語数表Excel(バージョン2022.03) https://clrd.ninja...
--長単位語数表Excel(バージョン2022.03) https://clrd.ninja...
-[[SHC>https://clrd.ninjal.ac.jp/shc/stats.html]]
--短単位語数表CSV https://clrd.ninjal.ac.jp/shc/doc/SHC_W...
***(Excel基礎知識)セルの相対参照と絶対参照 [#e418e4aa]
-A1:相対参照
-$A$1:絶対参照
-$A1:列のみ絶対参照
**11/22 &color(red){休み 欅祭}; [#l13f3cf7]
**11/15 第8回 Excelによる検索結果の集計(2) [#e531f71e]
***Excelの基礎 [#t5ba152a]
-並べ替え(ソート)
--反転前文脈の使い方
-フィルタ(絞り込み)
--テキストフィルタ
--多重フィルター(複数の条件指定)
***【重要】ピボットテーブルの使い方 [#d0a7589d]
-ピボットテーブル
-ピボットグラフ
-参考:CHJの犬と猫
--動画:『日本語歴史コーパス』のかんたんな使い方─犬派?猫...
***複数の検索結果の結合 [#l9b3620b]
一度にピボットテーブルで集計できるように一つの表にまとめる
-※必ず表をくっつけること(空行を入れるとそこで表が切れて...
-例:ワイン・葡萄酒 ※単位数が違うので検索条件式でも一つ...
キー: 語彙素="ワイン";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS...
ショートカットキーを活用すると便利
-Ctrl((Macの場合はCommand))+End((EndキーはノートPCではし...
-Shift+Ctrl+End((EndがFn+→の場合は、Shift+Ctrl+Fn+→を同時...
+表をコピー
--Ctrl+Home((HomeキーはノートPCではしばしばFn+←))(表の左...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓(表の一番下の行に移動), ↓(1行下へ), Ctrl+V(...
-[[授業資料/覚えておきたいショートカットキー]]
または、「検索条件式ごとに出力ファイルを分割する」を外し...
たくさんまとめて調べたい場合には特に便利
キー: 語彙素="ワイン";
キー: 語彙素="ブランデー";
キー: 語彙素="ウイスキー";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS...
キー: 語彙素="日本" AND 後方共起: 語彙素="酒" ON 1 WORDS...
**11/8 第7回 「中納言」の使い方(3) / Excelによる検索結果...
***復習 [#q1d891fe]
-検索語の条件指定
-複数単位の組み合わせ
***位置情報と用例へのパーマリンク [#fecf8e21]
-位置検索
--''サンプルID,開始位置''((サンプル先頭からの文字数を10倍...
--位置検索での区切り記号はカンマのほかタブやスペースでも可
-用例へのpermalink
--CHJ源氏冒頭の「やんごとなし」:https://chunagon.ninjal....
***検索条件式の利用 [#r945c6c0]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
↓これだけでもいい(WITH OPTIONS 以下は式で指定がない場合...
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
***OR検索 [#q9b90c80]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: (語彙素="言葉" OR 語彙素="言語") ON 1 WOR...
***周辺語検索 [#yaad8b13]
-「美しい」の前後3語以内に出現する名詞(平安仮名文学)
キー: 品詞 LIKE "名詞%"
AND 共起: 語彙素="美しい" BETWEEN -3 AND 3 WORDS FROM ...
IN subcorpusName="平安-仮名文学" AND core="true"
-「言葉」の前後2語以内に出現する形容詞・形状詞
キー: (品詞 LIKE "形状詞%" OR 品詞 LIKE "形容詞%")
AND 共起: 語彙素="言葉" BETWEEN -2 AND 2 WORDS FROM キー
***「中納言」検索結果のダウンロードとExcelでの利用 [#m04a...
+ダウンロード
+Excelでインポート
-データの形式
--タブ区切りテキストの各列
**11/1 第6回 「中納言」の使い方(2) [#y361ac61]
-3.4 複数単位の組み合わせ(共起・連接)から(p.6)
**10/25 第5回 コーパスの形態論情報(2)/「中納言」の使い...
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位:MeCabとUniDicを使った形態素解析で情報付与
-長単位:Comainu(など)で短単位を組み上げる
***形態素解析を試してみる [#gf5bf622]
-[[Web茶まめ>https://chamame.ninjal.ac.jp/]]
--https://chamame.ninjal.ac.jp/
--新聞と文学作品の語種比率比較
***形態素解析の仕組み [#e1069790]
-[[授業資料/形態素解析]]
***「中納言」の使い方 [#b5d4323a]
--[[配布資料・中納言の使い方>https://lms.seikei.ac.jp/lms...
**10/18 &color(red){休み};(四大学運動競技大会) [#cb023...
**10/11 第4回 コーパスの形態論情報 [#mbc48064]
***利用する側から見たコーパスの設計 [#p142476c]
-BCCWJでもCHJでも、どのように設計されているかを知らないと...
--サブコーパスのサイズを無視した比較
--バランスのとれていない項目間の単純比較(BCCWJの年代、CH...
-今後の授業の中で詳しく説明していきます
***コーパスの形態論情報 [#w3c3c79b]
--http://clrd.ninjal.ac.jp/bccwj/morphology.html
-短単位と長単位
--[[(スライド)長単位と短単位>https://lms.seikei.ac.jp/l...
--[[長単位と短単位・資料>https://lms.seikei.ac.jp/lms/lgi...
--(参考)動画:コーパス検索システムの言語単位『短単位』 ...
***品詞体系 [#d6776112]
-BCCWJ・CHJは[[UniDic>https://clrd.ninjal.ac.jp/unidic/]]...
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://lms.seikei.ac.jp/lms/lginLgir/...
***参考資料 [#t1ff9987]
-BCCWJ関連報告書 http://clrd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>http://doi.org/10.150...
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位:MeCabとUniDicを使った形態素解析で情報付与
-長単位:長単位解析器で短単位を組み上げる
***形態素解析を試してみる [#gf5bf622]
-[[Web茶まめ>https://chamame.ninjal.ac.jp/]]
--https://chamame.ninjal.ac.jp/
***形態素解析の仕組み [#e1069790]
-[[授業資料/形態素解析]]
***「中納言」の使い方 [#b5d4323a]
--[[配布資料・中納言の使い方>https://lms.seikei.ac.jp/lms...
**10/4 第3回 日本語コーパスの紹介(2)『日本語日常会話コ...
***(前回補足)参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス(BCCWJ)
--[[現代日本語書き言葉均衡コーパス:概要>https://clrd.nin...
--BCCWJの基本設計:https://clrd.ninjal.ac.jp/bccwj/basic-...
--サンプリング:https://clrd.ninjal.ac.jp/bccwj/sampling....
--XMLによる電子化:https://clrd.ninjal.ac.jp/bccwj/XML.html
***「日本語日常会話コーパス」(CEJC)の設計・構成 [#x9f78...
-https://www2.ninjal.ac.jp/conversation/cejc.html
-[[『日本語日常会話コーパス』—設計・構築・特徴(報...
***「日本語歴史コーパス」(CHJ)の構成 [#x9f78d1c]
-https://clrd.ninjal.ac.jp/chj/
-残された資料に限りがある(そもそも偏りがある)歴史的なコ...
:近世以前|残されている資料が少なく、できるだけ(可能なら...
:近世(後期)以降|偏りはあるものの選べるだけの資料がある...
-[[『日本語歴史コーパス』>https://clrd.ninjal.ac.jp/chj/]...
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本:年代・著者(・地域)のバランスを...
***近代語コーパスの場合 [#p0de8288]
-近代雑誌(現在はCHJの一部)
--多様な記事を含む「総合雑誌」を対象とすることでバランス...
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://clrd.ninjal.ac.jp/cmj/taiyo...
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽(・中央公論・文...
-近代小説
--複数の有識者が日本語資料として選定・投票した結果(1980...
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi...
***「昭和・平成書き言葉コーパス」(SHC)の設計・構成 [#w0...
-https://clrd.ninjal.ac.jp/shc/
-[[「『昭和・平成書き言葉コーパス』の設計・構築・公開」『...
**9/27 第2回 コーパスとは 日本語コーパスの紹介(1)『現...
***「中納言」授業アカウント配布 [#k69da28b]
-授業で使うコーパスが授業期間の半年間のみ使えるアカウント...
-個人アカウントを持っている人はそれを使ってください
https://chunagon.ninjal.ac.jp/
***コーパスを使ってみる [#s1b41ed3]
細かい話は抜きで「中納言」でコーパスを使ってみよう
-『現代日本語書き言葉均衡コーパス』(BCCWJ)
-コアデータのみを対象とする指定(負荷軽減のため)
-文字列検索
-短単位検索
***コーパスとは [#t54768fa]
--以下、[[スライド>https://lms.seikei.ac.jp/lms/lginLgir/...
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
-さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 ...
--参考:[[「ひまわり」パッケージ>https://www2.ninjal.ac.j...
-Web上のデータ
--検索サイトの利用
--WAC(Web as Corpus)
-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語...
***コーパスへの要請 [#n1ef5148]
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサ...
-https://clrd.ninjal.ac.jp/bccwj/
-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題
**09/20 第1回 イントロダクション [#a2711c5f]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[国立国語研究所コーパス開発センター>https://clrd.ninja...
***授業内容等の確認 [#e55ee18f]
-シラバスの確認
--[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssb...
--この授業の目的
--授業の進め方
--評価方法
-受講者アンケート
--関心のある分野について
--PC等のスキルについて
***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--コーパス検索システム[[中納言>https://chunagon.ninjal.ac...
---[[「現代日本語書き言葉均衡コーパス(BCCWJ)」>https://...
---[[「日本語日常会話コーパス(CEJC)」>https://www2.ninj...
---[[「日本語歴史コーパス(CHJ)」>https://clrd.ninjal.ac...
---[[「昭和・平成書き言葉コーパス(SHC)」>https://clrd.n...
-Excelによる集計
--ピボットテーブル
--文字列関数・VLOOKUP関数
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
***「中納言」アカウントについて [#t6709ede]
-「中納言」オンライン利用申込み
--他のコーパス無含めて今後も利用したい場合は下記から個人...
--https://chunagon.ninjal.ac.jp/useraccount/register
***授業で利用する主なソフトウェア・Webアプリケーション(...
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
ページ名: