成蹊2021
応用日本語講座(日本語・日本文学のためのコンピュータ)†
- 今年度この授業はZoomによるリアルタイムのオンライン講義の形で行います。
- 授業のZoomのアドレスは下記のリンク先(CoursePower授業ページ)で確認してください。
- 授業のZoomのアドレスは毎回同じです。
2021/05/07 全文検索システム「ひまわり」†
全文検索システム「ひまわり」について†
![himawari_aozora.png himawari_aozora.png](./?plugin=ref&page=%E6%88%90%E8%B9%8A2021%2F%E5%BF%9C%E7%94%A8%E6%97%A5%E6%9C%AC%E8%AA%9E%E8%AC%9B%E5%BA%A7&src=himawari_aozora.png)
「ひまわり」のインストール†
- ひまわり のダウンロードページ プログラム本体
- プログラム本体zipファイル)をダウンロード
- zipファイルを右クリックしてプロパティを見る→「セキュリティ」の右の「許可する」をチェックして「OK」
- ダブルクリックして開き、中のフォルダをまるごとコピー(ドキュメントフォルダなど)
- フォルダ内のhimawari.exeをダブルクリックで起動(MacはHimawari.jar、または最初からMac版をインストール)
「青空文庫パッケージ」のインストール†
- 青空文庫パッケージのダウンロード
- ひまわり用「青空文庫」パッケージのダウンロードページから「日本文学/小説(ndc913) 」をダウンロードして保存
- himawari.exeを起動
- Himawari画面上にダウンロードしたzipファイルをドラッグ&ドロップ*1
- しばらく待つと完了(数分から10分程度はかかる)
- 要らなくなったUSBメモリ上の青空文庫パッケージzipファイルは不要なので削除する
「ひまわり」とその使い方†
ひまわり検索結果をExcelで扱う†
Excelの基本操作†
- 並べ替え(ソート)
- フィルター(絞り込み)
- テキストフィルター
- 多重フィルター(複数の条件指定)
- ピボットテーブル★
正規表現小テスト†
- ZoomのチャットでPDFファイルを配布します。
- 下記のCourse Powerのサイトから提出してください。
2021/05/07 正規表現2(タグ付き正規表現)†
正規表現の応用†
- カタカナ語
- 送りがなの揺れ(行う/行なう)
- 会話文中("「"で始まる文中)の用例を検索する
- 同一文中での共起
タグ付き正規表現†
- 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
- 次のように置換するととんでもないことに…
- 検索文字列:走[らりるれろっ]
- 置換文字列:★走[らりるれろっ]
- タグ付き正規表現:カッコ(半角丸カッコ)と\1(\2,\3…)を使う
- 授業資料/タグつき正規表現
最長一致の原則(greedy matching)†
- 正規表現は、パターンが一致する最も長い範囲にマッチする
- 例:あ+ → 【\1】
- ああああああああ → 【ああああああああ】
そのせいで…
- 例:「(.+)」 → 【\1】
- 「こんにちは」「さようなら」 → 【こんにちは」「さようなら】
- 括弧の組ごとに置換するためには「([^」]+)」 → 【\1】 のように書かなければならない
- 「こんにちは」「さようなら」 → 【こんにちは】【さようなら】
- よりかんたんに指定するには(最短一致,ものぐさ指定)
- 「(.+?)」「(.*?)」のように、繰り返し指定の+*の後に「?」をつける
検索文字列の中での後方参照†
- 検索語の中で\1を使う
- (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
- (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
- (..)\1\1
- (...)\1
正規表現に関する参考資料†
2021/04/30 正規表現†
テキストエディタ・正規表現(文字クラス)の復習†
正規表現のいろいろ†
- 授業資料/正規表現
- 文字クラス [ ]
- 文字クラスの否定(補集合)[^ ]
- 繰り返し ? + *
- グループ化 ()
- or(論理和) |
- 文頭 ^、文末 $
2021/04/23 テキストエディタの利用†
テキストデータ(青空文庫)の配布†
- 検索・置換、grep
- 検索で初出行を調べる
- 置換で用例数を数える
- grepで用例リストを作る
- タグジャンプで文脈を確認する
ショートカットキー†
grepと置換でKWIC(CSVファイル)を作る(簡易版)†
- CSVファイルとは:テキストファイルで表を表現する
用語:CSVファイル
- KWIC:KeyWord In Context
正規表現を使ってみる†
- 文字クラス
- 例:読[まみむめもん]
- 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
正規表現とは†
- 正規表現 >用語
- 文字を表すための特殊な文字(メタ文字)を使って文字列のパターンを表現する
- テキストエディタでは置換・検索・grepで利用できる (エディタ以外にもさまざまなアプリケ-ションやコンピュータ言語で利用されている)
- 特殊な文字(メタ文字)はすべて半角
2021/04/16 テキストデータと文字コード†
文字コード†
テキストデータ†
テキストエディタ†
サクラエディタのダウンロードとインストール†
フリーソフトウェア(無償)のエディタを使います。
- インストールの手順
- ダウンロードしたzipファイルの中にあるsakura-install*.exeをデスクトップにコピー
- exeファイルを右クリックしてプロパティを見る→「セキュリティ」の右の「許可する」をチェックして「OK」
- ダブルクリックしてインストール
Macの場合(CotEditorのダウンロードとインストール)†
テキストエディタを使ってみる†
- テキストエディタの設定
- 行の折り返し
- 行番号表示
- スタイル行番号(ワープロ的行番号)と論理行番号(エディタ的行番号)
- 検索・置換、grep
- 検索で初出行を調べる
- 置換で用例数を数える
- grepで用例リストを作る
- タグジャンプで文脈を確認する
2021/04/09†
イントロダクション†
授業で利用する主なソフトウェア†
授業で利用する主なデータ†
- テキストエディタとgrep
- 全文検索システムひまわり
- Excel(ピボットテーブル)
- 形態素解析:Web茶まめ
または、メニューのファイル>インストールをえらび、青空文庫パッケージのzipファイルを指定