![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
[[東京外大2017]] *Japan Studies 1：コーパス日本語学入門 -春学期・木曜4限 -ogiso＠ogiso.net ←＠を@に直してください ---- -[[コーパス検索アプリケーション「中納言」 https://chunagon.ninjal.ac.jp/>https://chunagon.ninjal.ac.jp/]] ***レポートについて -〆切：7月13日(木) -枚数：A4用紙で4枚以上～20枚以下 -メールで提出 **Active Learning (II) -7/11 (火) 14:00-15:30 国語研3Fセミナー室 -7/11 (火) 14:00-15:30 ''国語研 2階 多目的室'' -[[梵天（NWJC）>http://bonten.ninjal.ac.jp/]] 講習会 -&color(red){''※当日参加できない人もWeb上で受講が可能になりました。詳しくは小木曽までメールで連絡して下さい。''}; --[[『国語研日本語ウェブコーパス』（NWJC）>http://pj.ninjal.ac.jp/corpus_center/nwjc/]] **2017/07/06 ***Active Learning (II)について ***レポートテーマに関する調査と質問対応 **Active Learning (I) ''6/29〆切'' ***レポートテーマの選定とコーパスの予備調査 -中納言で利用可能なコーパスを使ったレポートテーマを検討し、その予備調査としてコーパスを検索し、検索結果・集計表を作成して、レポートテーマとともにメールで送付しなさい。 **2017/06/29 ***Active Learningについて ***コロケーション強度の話 -[[授業資料/コロケーション強度]] ***レポートテーマに関する調査と質問対応 **2017/06/22 //-[[yahari_kwic-1800150.xlsx>https://u134600.dl.dropboxusercontent.com/u/134600/yahari_kwic-1800150.xlsx]] ***ランダムサンプリング調査(Excelでの集計・補足) -大量に用例があり、調査内容からすべて対象にできない場合 -ランダムに並べ替え→先頭n例を調査対象に --ランダムな数字の列： =RAND() --ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される ***出現サンプル数の調査（重複の削除） -用例数ではなく、用例が一つでも出現したサンプルの数を調べたい場合 --たとえば一人称代名詞など、サンプル毎に偏って多数現れる語の調査 --「データ」→「重複の削除」 ***VLOOKUPの利用 -自作の辞書テーブルのようなものを使って用例を集計する -[[VLOOKUP関数>授業資料/vlookup関数]] -VLOOKUPを使った調整頻度の計算 ***【補足】Excelの文字列関数で前後文脈を整える --後文脈の「#」より後を消す（「#」がない場合はそのまま） =IF(ISERROR(SEARCH("#",<後文脈>)),<後文脈>,LEFT(<後文脈>,SEARCH("#",<後文脈>))) --前文脈の「#」以前を消す（「#」がない場合はそのまま）((「#」が複数ある場合の処理があるので難しい。「~」は前文脈に決して出現しない文字を指定)) =RIGHT(<前文脈>,LEN(<前文脈>)-(FIND("~",SUBSTITUTE("#"&<前文脈>,"#","~",LEN("#"&<前文脈>)-LEN(SUBSTITUTE("#"&<前文脈>,"#",""))),1)-1)) ***中納言状での他のコーパスの利用 -日本語歴史コーパス CHJ -日本語話し言葉コーパス CSJ -多言語母語の日本語学習者横断コーパス I-JAS -名大会話コーパス **2017/06/15 ***Excelの文字列関数とIF関数 -例：ジャンル（NDC）の整理 --先頭の文字を取り出す（NDCの一次区分（＝類）） ---=LEFT(<ジャンルのセル>,1) --スラッシュで区切られた最初の部分（ジャンルの大分類） ---=LEFT(<ジャンルのセル>,SEARCH("/",<ジャンルのセル>)-1) -集計用に用意した列で文字列処理関数を利用する --LEFT --RIGHT --MID --LEN --SEARCH --SUBSTITUTE -条件わけ：IF -エラー対応：IFERROR -応用例：品詞の大分類を使う --=IFERROR(LEFT(<品詞>,SEARCH("-",<品詞>)-1),<品詞>) ***BCCWJ利用の落とし穴 -BCCWJはあくまでも「現代語」のためのコーパスなので通時的な調査には向かない --レジスターによって母集団の年が違っている ---レジスターの偏りを年代の偏りと勘違いしないこと --30年あるのは白書・ベストセラー・国会会議録など一部のものだけ -もともとテキスト量の多いレジスターにたくさん用例があるからといって「そのレジスターでよく使われる」とはいえない→調整頻度の計算 --cf.人口あたりの事故件数，１平方キロあたりの…etc. //--データ：語彙素「矢張り」 [[kwic-yahari.zip>https://www.dropbox.com/s/33jkbf7k24hlwyw/kwic-yahari.zip]] ***調整頻度の計算 -粗頻度を総語数で割る --レジスターごとの語数データ：中納言ページの「語数について」からExcelでダウンロードできる ---語数ファイルをピボットテーブルで集計して分母に -調整頻度には100万語あたりの頻度（pmw）がよく使われる --粗頻度/総語数*1000000 ---数字が小さくなりすぎないようにするため -※割合の違いを比較するだけなら調整頻度を出す必要はない。 **2017/06/08 -（配布資料）「中納言」検索課題 --定型表現の揺れ --表記（交ぜ書き・拡張新字体・印刷標準字体） --語彙（抽象概念の尺度となる形容詞） --文法（格助詞の選択） ***複数の検索結果の結合 -例：蒲公英・向日葵・菫 ショートカットキーを活用すると便利 -Ctrl+End ファイルの末尾/表のいちばん右下に移動 -Shift+Ctrl+End 〃範囲を選択 +表をコピー --Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl+End, Ctrl+C +コピーした表を既存の表の下に貼り付け --Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home ***集計用の列を自分で用意する -例：表記（ひらがな・かたかな・漢字）別集計 -例：用法分類 **2017/06/01 ***質問対応 -自分の研究テーマのための検索方法の相談 ***「中納言」検索結果のダウンロードとExcelでの利用（復習） +ダウンロード +アーカイブの展開（解凍） +Excelでインポート ***Excelの基礎 -並べ替え --反転前文脈の使い方 -フィルタ --テキストフィルタ ***【重要】ピボットテーブルの使い方 -ピボットテーブル -ピボットグラフ ***複数の検索結果の結合 -例：蒲公英・向日葵・菫 ショートカットキーを活用すると便利 -Ctrl+End ファイルの末尾/表のいちばん右下に移動 -Shift+Ctrl+End 〃範囲を選択 +表をコピー --Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl+End, Ctrl+C +コピーした表を既存の表の下に貼り付け --Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home ***集計用の列を自分で用意する -例：表記（ひらがな・かたかな・漢字）別集計 -例：用法分類 **2017/05/25 ***質問対応 -自分の研究テーマのための検索方法の相談 ***(復習)形態論情報を使った検索 -資料「中納言の使い方」参照 ***検索条件式の利用 キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%") AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1" AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF" **&color(red){2017/05/18 ''休講''}; -出張のため休講とします。 **2017/05/11 ***前回の単位分割課題 -[[短単位・長単位分割の解答>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=LSUW_sample_OW1X_00003.pdf&refer=%C5%EC%B5%FE%B3%B0%C2%E72017%2FJapanStudies1]] ***形態論情報を使ったコーパスの検索 -配布資料「中納言の使い方」参照 --この資料は次回以降も使いますので持ってきてください。 **2017/04/27 ***コーパスの形態論情報：短単位と長単位 -配布資料参照 ***品詞体系と見出し語の階層 -BCCWJ,CHJはUniDicの品詞体系にもとづく -[[授業資料/UniDicの品詞体系]] -[[授業資料/UniDicの見出し語階層]] ***形態論情報を使った検索 -例 ***（参考）Web茶まめ http://chamame.ninjal.ac.jp/ **2017/04/20 ***「中納言」オンライン利用申込み -https://chunagon.ninjal.ac.jp/useraccount/register ***コーパスの設計とサンプリング //-''（[[スライド>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=2017_%C2%E83%B2%F3%A5%B3%A1%BC%A5%D1%A5%B9%A4%CE%C0%DF%B7%D7%A4%C8%A5%B5%A5%F3%A5%D7%A5%EA%A5%F3%A5%B0.pptx&refer=%C5%EC%B5%FE%B3%B0%C2%E72017%2FJapanStudies1]]参照）'' 第2回コーパスの設計とサンプリング -''（スライド参照）'' 第2回コーパスの設計とサンプリング -均衡コーパス（Balanced corpus） --「バランスがとれている」「代表性」とは？ --コーパスの母集団の設定とサンプリング --BCCWJのサブコーパス --可変長と固定長 -著作権をめぐる問題 ***参考リンク -英語のコーパス リファレンス --[[ブラウンコーパス マニュアル>http://www.hit.uib.no/icame/brown/bcm.html]] http://www.hit.uib.no/icame/brown/bcm.html --[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/docs/URG/]] http://www.natcorp.ox.ac.uk/docs/URG/ -現代日本語書き言葉均衡コーパス（BCCWJ） --[[現代日本語書き言葉均衡コーパス：概要>http://pj.ninjal.ac.jp/corpus_center/bccwj/index.html]] --[[現代日本語書き言葉均衡コーパス：サンプリング>http://pj.ninjal.ac.jp/corpus_center/bccwj/sampling.html]] **2017/04/13 ***「コーパス」について [#k44345b6] :狭義のコーパス|言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。 --現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ） :広義のコーパス|コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究にも利用可能。 --さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録） --Web上のデータ ---検索サイトの利用 ---WAC（Web as Corpus） -この授業で扱うのは主に狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」が中心 -日本語コーパス以前のデータとBCCWJの違いは --cf. スライド ***紙の資料からコーパスまで +(紙の)本文 +(紙の)総索引（コンコーダンス） +電子テキスト +構造化テキスト +形態論情報付きコーパス ***現代日本語書き言葉均衡コーパス（BCCWJ）とは -BCCWJについて、まず最小限のことを説明します。 -[[BCCWJ少納言>http://shonagon.ninjal.ac.jp]] --登録不要 --文字列検索のみ --500例まで表示 -[[BCCWJ中納言>http://chunagon.ninjal.ac.jp]] --要登録 --形態論情報を使った検索 --全件（一度に最大10万例まで）ダウンロード可 ***「現代日本語書き言葉均衡コーパス（BCCWJ）」 -BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]] ***「中納言」オンライン利用申込み -https://chunagon.ninjal.ac.jp/useraccount/register **2017/04/06 ***イントロダクション／日本語コーパスの紹介 -[[自己紹介]] --大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/ -コーパスとは --[[国立国語研究所コーパス開発センター>http://pj.ninjal.ac.jp/corpus_center/]] -デモ --「現代日本語書き言葉均衡コーパス（BCCWJ）」 ---BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]] ---BCCWJ[[中納言>http://chunagon.ninjal.ac.jp]] --[[Web茶まめ>http://chamame.ninjal.ac.jp]] --Excelによる集計（ピボットテーブル） -シラバス確認 --この授業の目的 --授業の進め方 --評価方法
