東京外大2017/JapanStudies1
をテンプレートにして作成
開始行:
[[東京外大2017]]
*Japan Studies 1:コーパス日本語学入門
-春学期・木曜4限
-ogiso@ogiso.net ←@を@に直してください
----
-[[コーパス検索アプリケーション「中納言」 https://chunago...
***レポートについて
-〆切:7月13日(木)
-枚数:A4用紙で4枚以上~20枚以下
-メールで提出
**Active Learning (II)
-7/11 (火) 14:00-15:30 ''国語研 2階 多目的室''
-[[梵天(NWJC)>http://bonten.ninjal.ac.jp/]] 講習会
-&color(red){''※当日参加できない人もWeb上で受講が可能にな...
--[[『国語研日本語ウェブコーパス』(NWJC)>http://pj.ninj...
**2017/07/06
***Active Learning (II)について
***レポートテーマに関する調査と質問対応
**Active Learning (I) ''6/29〆切''
***レポートテーマの選定とコーパスの予備調査
-中納言で利用可能なコーパスを使ったレポートテーマを検討し...
**2017/06/29
***Active Learningについて
***コロケーション強度の話
-[[授業資料/コロケーション強度]]
***レポートテーマに関する調査と質問対応
**2017/06/22
//-[[yahari_kwic-1800150.xlsx>https://u134600.dl.dropboxu...
***ランダムサンプリング調査(Excelでの集計・補足)
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
***出現サンプル数の調査(重複の削除)
-用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
--たとえば一人称代名詞など、サンプル毎に偏って多数現れる...
--「データ」→「重複の削除」
***VLOOKUPの利用
-自作の辞書テーブルのようなものを使って用例を集計する
-[[VLOOKUP関数>授業資料/vlookup関数]]
-VLOOKUPを使った調整頻度の計算
***【補足】Excelの文字列関数で前後文脈を整える
--後文脈の「#」より後を消す(「#」がない場合はそのまま)
=IF(ISERROR(SEARCH("#",<後文脈>)),<後文脈>,LEFT(<後文脈>...
--前文脈の「#」以前を消す(「#」がない場合はそのまま)((...
=RIGHT(<前文脈>,LEN(<前文脈>)-(FIND("~",SUBSTITUTE("#"&<...
***中納言状での他のコーパスの利用
-日本語歴史コーパス CHJ
-日本語話し言葉コーパス CSJ
-多言語母語の日本語学習者横断コーパス I-JAS
-名大会話コーパス
**2017/06/15
***Excelの文字列関数とIF関数
-例:ジャンル(NDC)の整理
--先頭の文字を取り出す(NDCの一次区分(=類))
---=LEFT(<ジャンルのセル>,1)
--スラッシュで区切られた最初の部分(ジャンルの大分類)
---=LEFT(<ジャンルのセル>,SEARCH("/",<ジャンルのセル>)-1)
-集計用に用意した列で文字列処理関数を利用する
--LEFT
--RIGHT
--MID
--LEN
--SEARCH
--SUBSTITUTE
-条件わけ:IF
-エラー対応:IFERROR
-応用例:品詞の大分類を使う
--=IFERROR(LEFT(<品詞>,SEARCH("-",<品詞>)-1),<品詞>)
***BCCWJ利用の落とし穴
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数,1平方キロあたりの…etc.
//--データ:語彙素「矢張り」 [[kwic-yahari.zip>https://w...
***調整頻度の計算
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度(pmw)がよく使われる
--粗頻度/総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合の違いを比較するだけなら調整頻度を出す必要はない。
**2017/06/08
-(配布資料)「中納言」検索課題
--定型表現の揺れ
--表記(交ぜ書き・拡張新字体・印刷標準字体)
--語彙(抽象概念の尺度となる形容詞)
--文法(格助詞の選択)
***複数の検索結果の結合
-例:蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
***集計用の列を自分で用意する
-例:表記(ひらがな・かたかな・漢字)別集計
-例:用法分類
**2017/06/01
***質問対応
-自分の研究テーマのための検索方法の相談
***「中納言」検索結果のダウンロードとExcelでの利用(復習)
+ダウンロード
+アーカイブの展開(解凍)
+Excelでインポート
***Excelの基礎
-並べ替え
--反転前文脈の使い方
-フィルタ
--テキストフィルタ
***【重要】ピボットテーブルの使い方
-ピボットテーブル
-ピボットグラフ
***複数の検索結果の結合
-例:蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
***集計用の列を自分で用意する
-例:表記(ひらがな・かたかな・漢字)別集計
-例:用法分類
**2017/05/25
***質問対応
-自分の研究テーマのための検索方法の相談
***(復習)形態論情報を使った検索
-資料「中納言の使い方」参照
***検索条件式の利用
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
**&color(red){2017/05/18 ''休講''};
-出張のため休講とします。
**2017/05/11
***前回の単位分割課題
-[[短単位・長単位分割の解答>http://www.ogiso.net/wiki/ind...
***形態論情報を使ったコーパスの検索
-配布資料「中納言の使い方」参照
--この資料は次回以降も使いますので持ってきてください。
**2017/04/27
***コーパスの形態論情報:短単位と長単位
-配布資料参照
***品詞体系と見出し語の階層
-BCCWJ,CHJはUniDicの品詞体系にもとづく
-[[授業資料/UniDicの品詞体系]]
-[[授業資料/UniDicの見出し語階層]]
***形態論情報を使った検索
-例
***(参考)Web茶まめ
http://chamame.ninjal.ac.jp/
**2017/04/20
***「中納言」オンライン利用申込み
-https://chunagon.ninjal.ac.jp/useraccount/register
***コーパスの設計とサンプリング
//-''([[スライド>http://www.ogiso.net/wiki/index.php?plu...
-''(スライド参照)'' 第2回コーパスの設計とサンプリング
-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題
***参考リンク
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://www.hit.uib.no/ica...
http://www.hit.uib.no/icame/brown/bcm.html
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス(BCCWJ)
--[[現代日本語書き言葉均衡コーパス:概要>http://pj.ninjal...
--[[現代日本語書き言葉均衡コーパス:サンプリング>http://p...
**2017/04/13
***「コーパス」について [#k44345b6]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
--さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫...
--Web上のデータ
---検索サイトの利用
---WAC(Web as Corpus)
-この授業で扱うのは主に狭義のコーパス。中でも「現代日本語...
-日本語コーパス以前のデータとBCCWJの違いは
--cf. スライド
***紙の資料からコーパスまで
+(紙の)本文
+(紙の)総索引(コンコーダンス)
+電子テキスト
+構造化テキスト
+形態論情報付きコーパス
***現代日本語書き言葉均衡コーパス(BCCWJ)とは
-BCCWJについて、まず最小限のことを説明します。
-[[BCCWJ少納言>http://shonagon.ninjal.ac.jp]]
--登録不要
--文字列検索のみ
--500例まで表示
-[[BCCWJ中納言>http://chunagon.ninjal.ac.jp]]
--要登録
--形態論情報を使った検索
--全件(一度に最大10万例まで)ダウンロード可
***「現代日本語書き言葉均衡コーパス(BCCWJ)」
-BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
***「中納言」オンライン利用申込み
-https://chunagon.ninjal.ac.jp/useraccount/register
**2017/04/06
***イントロダクション/日本語コーパスの紹介
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
-コーパスとは
--[[国立国語研究所コーパス開発センター>http://pj.ninjal.a...
-デモ
--「現代日本語書き言葉均衡コーパス(BCCWJ)」
---BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
---BCCWJ[[中納言>http://chunagon.ninjal.ac.jp]]
--[[Web茶まめ>http://chamame.ninjal.ac.jp]]
--Excelによる集計(ピボットテーブル)
-シラバス確認
--この授業の目的
--授業の進め方
--評価方法
終了行:
[[東京外大2017]]
*Japan Studies 1:コーパス日本語学入門
-春学期・木曜4限
-ogiso@ogiso.net ←@を@に直してください
----
-[[コーパス検索アプリケーション「中納言」 https://chunago...
***レポートについて
-〆切:7月13日(木)
-枚数:A4用紙で4枚以上~20枚以下
-メールで提出
**Active Learning (II)
-7/11 (火) 14:00-15:30 ''国語研 2階 多目的室''
-[[梵天(NWJC)>http://bonten.ninjal.ac.jp/]] 講習会
-&color(red){''※当日参加できない人もWeb上で受講が可能にな...
--[[『国語研日本語ウェブコーパス』(NWJC)>http://pj.ninj...
**2017/07/06
***Active Learning (II)について
***レポートテーマに関する調査と質問対応
**Active Learning (I) ''6/29〆切''
***レポートテーマの選定とコーパスの予備調査
-中納言で利用可能なコーパスを使ったレポートテーマを検討し...
**2017/06/29
***Active Learningについて
***コロケーション強度の話
-[[授業資料/コロケーション強度]]
***レポートテーマに関する調査と質問対応
**2017/06/22
//-[[yahari_kwic-1800150.xlsx>https://u134600.dl.dropboxu...
***ランダムサンプリング調査(Excelでの集計・補足)
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
***出現サンプル数の調査(重複の削除)
-用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
--たとえば一人称代名詞など、サンプル毎に偏って多数現れる...
--「データ」→「重複の削除」
***VLOOKUPの利用
-自作の辞書テーブルのようなものを使って用例を集計する
-[[VLOOKUP関数>授業資料/vlookup関数]]
-VLOOKUPを使った調整頻度の計算
***【補足】Excelの文字列関数で前後文脈を整える
--後文脈の「#」より後を消す(「#」がない場合はそのまま)
=IF(ISERROR(SEARCH("#",<後文脈>)),<後文脈>,LEFT(<後文脈>...
--前文脈の「#」以前を消す(「#」がない場合はそのまま)((...
=RIGHT(<前文脈>,LEN(<前文脈>)-(FIND("~",SUBSTITUTE("#"&<...
***中納言状での他のコーパスの利用
-日本語歴史コーパス CHJ
-日本語話し言葉コーパス CSJ
-多言語母語の日本語学習者横断コーパス I-JAS
-名大会話コーパス
**2017/06/15
***Excelの文字列関数とIF関数
-例:ジャンル(NDC)の整理
--先頭の文字を取り出す(NDCの一次区分(=類))
---=LEFT(<ジャンルのセル>,1)
--スラッシュで区切られた最初の部分(ジャンルの大分類)
---=LEFT(<ジャンルのセル>,SEARCH("/",<ジャンルのセル>)-1)
-集計用に用意した列で文字列処理関数を利用する
--LEFT
--RIGHT
--MID
--LEN
--SEARCH
--SUBSTITUTE
-条件わけ:IF
-エラー対応:IFERROR
-応用例:品詞の大分類を使う
--=IFERROR(LEFT(<品詞>,SEARCH("-",<品詞>)-1),<品詞>)
***BCCWJ利用の落とし穴
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数,1平方キロあたりの…etc.
//--データ:語彙素「矢張り」 [[kwic-yahari.zip>https://w...
***調整頻度の計算
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度(pmw)がよく使われる
--粗頻度/総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合の違いを比較するだけなら調整頻度を出す必要はない。
**2017/06/08
-(配布資料)「中納言」検索課題
--定型表現の揺れ
--表記(交ぜ書き・拡張新字体・印刷標準字体)
--語彙(抽象概念の尺度となる形容詞)
--文法(格助詞の選択)
***複数の検索結果の結合
-例:蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
***集計用の列を自分で用意する
-例:表記(ひらがな・かたかな・漢字)別集計
-例:用法分類
**2017/06/01
***質問対応
-自分の研究テーマのための検索方法の相談
***「中納言」検索結果のダウンロードとExcelでの利用(復習)
+ダウンロード
+アーカイブの展開(解凍)
+Excelでインポート
***Excelの基礎
-並べ替え
--反転前文脈の使い方
-フィルタ
--テキストフィルタ
***【重要】ピボットテーブルの使い方
-ピボットテーブル
-ピボットグラフ
***複数の検索結果の結合
-例:蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
***集計用の列を自分で用意する
-例:表記(ひらがな・かたかな・漢字)別集計
-例:用法分類
**2017/05/25
***質問対応
-自分の研究テーマのための検索方法の相談
***(復習)形態論情報を使った検索
-資料「中納言の使い方」参照
***検索条件式の利用
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
**&color(red){2017/05/18 ''休講''};
-出張のため休講とします。
**2017/05/11
***前回の単位分割課題
-[[短単位・長単位分割の解答>http://www.ogiso.net/wiki/ind...
***形態論情報を使ったコーパスの検索
-配布資料「中納言の使い方」参照
--この資料は次回以降も使いますので持ってきてください。
**2017/04/27
***コーパスの形態論情報:短単位と長単位
-配布資料参照
***品詞体系と見出し語の階層
-BCCWJ,CHJはUniDicの品詞体系にもとづく
-[[授業資料/UniDicの品詞体系]]
-[[授業資料/UniDicの見出し語階層]]
***形態論情報を使った検索
-例
***(参考)Web茶まめ
http://chamame.ninjal.ac.jp/
**2017/04/20
***「中納言」オンライン利用申込み
-https://chunagon.ninjal.ac.jp/useraccount/register
***コーパスの設計とサンプリング
//-''([[スライド>http://www.ogiso.net/wiki/index.php?plu...
-''(スライド参照)'' 第2回コーパスの設計とサンプリング
-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題
***参考リンク
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://www.hit.uib.no/ica...
http://www.hit.uib.no/icame/brown/bcm.html
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス(BCCWJ)
--[[現代日本語書き言葉均衡コーパス:概要>http://pj.ninjal...
--[[現代日本語書き言葉均衡コーパス:サンプリング>http://p...
**2017/04/13
***「コーパス」について [#k44345b6]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
--さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫...
--Web上のデータ
---検索サイトの利用
---WAC(Web as Corpus)
-この授業で扱うのは主に狭義のコーパス。中でも「現代日本語...
-日本語コーパス以前のデータとBCCWJの違いは
--cf. スライド
***紙の資料からコーパスまで
+(紙の)本文
+(紙の)総索引(コンコーダンス)
+電子テキスト
+構造化テキスト
+形態論情報付きコーパス
***現代日本語書き言葉均衡コーパス(BCCWJ)とは
-BCCWJについて、まず最小限のことを説明します。
-[[BCCWJ少納言>http://shonagon.ninjal.ac.jp]]
--登録不要
--文字列検索のみ
--500例まで表示
-[[BCCWJ中納言>http://chunagon.ninjal.ac.jp]]
--要登録
--形態論情報を使った検索
--全件(一度に最大10万例まで)ダウンロード可
***「現代日本語書き言葉均衡コーパス(BCCWJ)」
-BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
***「中納言」オンライン利用申込み
-https://chunagon.ninjal.ac.jp/useraccount/register
**2017/04/06
***イントロダクション/日本語コーパスの紹介
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
-コーパスとは
--[[国立国語研究所コーパス開発センター>http://pj.ninjal.a...
-デモ
--「現代日本語書き言葉均衡コーパス(BCCWJ)」
---BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
---BCCWJ[[中納言>http://chunagon.ninjal.ac.jp]]
--[[Web茶まめ>http://chamame.ninjal.ac.jp]]
--Excelによる集計(ピボットテーブル)
-シラバス確認
--この授業の目的
--授業の進め方
--評価方法
ページ名: