成蹊2024
応用日本語講座†
- 2023年度後期・金曜2限:10:40~12:20
- 教室:7号館303 ※4月19日から変更になりました。
- Mail: ogiso@ogiso.net
5/24 「ひまわり」の利用と検索結果のExcelでの集計/正規表現小テスト†
全文検索システム「ひまわり」†
- 全文検索システム「ひまわり」
- ただのテキストファイル(プレーンテキスト)ではなく、XML形式にして、インデックスを付けた専用のデータを利用
- 自分で専用のデータを作ることもできるが、できあがって公開されているパッケージを利用するのが普通
![Himawari_SS.png Himawari_SS.png](./?plugin=ref&page=%E6%88%90%E8%B9%8A2024%2F%E5%BF%9C%E7%94%A8%E6%97%A5%E6%9C%AC%E8%AA%9E%E8%AC%9B%E5%BA%A7&src=Himawari_SS.png)
「ひまわり」とその使い方†
ひまわり検索結果をExcelで扱う†
Excelの基本操作†
- 並べ替え(ソート)
- フィルター(絞り込み)
- テキストフィルター
- 多重フィルター(複数の条件指定)
- ピボットテーブル【重要】
前回補足:Wordのワイルドカードと正規表現†
正規表現小テスト†
5/17 タグ付き正規表現/全文検索システム「ひまわり」†
タグ付き正規表現†
- 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
- 次のように置換するととんでもないことに…
- 検索文字列:走[らりるれろっ]
- 置換文字列:★走[らりるれろっ]
- タグ付き正規表現:カッコ(半角丸カッコ)と\1(\2,\3…)を使う
- 授業資料/タグつき正規表現
最長一致の原則(greedy matching)†
- 正規表現は、パターンが一致する最も長い範囲にマッチする
- 例:あ+ → 【\1】
- ああああああああ → 【ああああああああ】
そのせいで…
- 例:「(.+)」 → 【\1】
- 「こんにちは」「さようなら」 → 【こんにちは」「さようなら】
- 括弧の組ごとに置換するためには「([^」]+)」 → 【\1】 のように書かなければならない
- 「こんにちは」「さようなら」 → 【こんにちは】【さようなら】
- よりかんたんに指定するには(最短一致,ものぐさ指定)
- 「(.+?)」「(.*?)」のように、繰り返し指定の+*の後に「?」をつける
検索文字列の中での後方参照†
- 検索語の中で\1を使う
- (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
- (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
- (..)\1\1
- (...)\1
正規表現に関する参考資料†
「ひまわり」の準備†
「ひまわり」のインストール†
- ひまわり のダウンロードページからプログラム本体(zipファイル)をダウンロード
- zipファイルを右クリックしてプロパティを見る→「セキュリティ」の右の「許可する」をチェックして「OK」
- ダブルクリックして開き、中のフォルダをまるごと(USBメモリに)コピー
- フォルダ内のhimawari.exeをダブルクリックで起動(MacはHimawari.jar、または最初からMac版をインストール)
「青空文庫パッケージ」のインストール†
- 青空文庫パッケージのダウンロード
- ひまわり用「青空文庫」パッケージのダウンロードページから「日本文学/小説(ndc913) 」をUSBメモリに直接ダウンロードして保存(サイズが大きいので大学のPCではダウンロードできない)
- himawari.exeを起動
- Himawari画面のファイル→インストールをえらび、青空文庫パッケージのzipファイルを指定
- しばらく待つと完了(数分から10分程度はかかる)
- 要らなくなったUSBメモリ上の青空文庫パッケージzipファイルは不要なので削除する
「ひまわり」とその使い方†
5/10 正規表現の応用†
正規表現の応用†
- カタカナ語
- 送りがなの揺れ(行う/行なう)
- 会話文中("「"で始まる文中)の用例を検索する
- 同一文中での共起
USBメモリの準備について†
- 次回以降「ひまわり」の利用のためにUSBメモリを用意してください。自分のPCを持ち込んで受講している場合は不要です。
05/03【休講】(憲法記念日:授業実施日)†
- 授業実施日ですが休講とします。
- 下記を課題としますので、次の授業回(5月10日)までに行ってください。
- キストエディタの操作方法を復習するとともに,リンク先の説明ページを確認して、授業時に配布したデータを対象に、正規表現を用いた検索を行うこと。
04/26 テキストエディタの利用†
テキストデータ(青空文庫の夏目漱石作品)の配布†
- 検索・置換、grep
- 検索で初出行を調べる
- 置換で用例数を数える
- grepで用例リストを作る
- タグジャンプで文脈を確認する
ショートカットキー†
grepと置換でKWIC(CSVファイル)を作る(簡易版)†
- CSVファイルとは:テキストファイルで表を表現する
用語:CSVファイル
- KWIC:KeyWord In Context
正規表現を使ってみる†
- 文字クラス
- 例:読[まみむめもん]
- 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
正規表現とは†
- 正規表現 >用語
- 文字を表すための特殊な文字(メタ文字)を使って文字列のパターンを表現する
- テキストエディタでは置換・検索・grepで利用できる (エディタ以外にもさまざまなアプリケ-ションやコンピュータ言語で利用されている)
- 特殊な文字(メタ文字)はすべて半角
正規表現のいろいろ†
- 授業資料/正規表現
- 文字クラス [ ]
- 文字クラスの否定(補集合)[^ ]
- 繰り返し ? + *
- グループ化 ()
- or(論理和) |
- 文頭 ^、文末 $
04/19 テキストデータと文字コード†
文字コード†
テキストデータ†
テキストエディタ†
テキストエディタのダウンロードとインストール†
フリーソフトウェア(無償)のサクラエディタを使います。(PC教室のパソコンにはインストール済み)
(以下は自分のPCで使う場合)
- ★サクラエディタのダウンロード
- インストールの手順
- ダウンロードしたzipファイルの中のsakura_install~.exeをダブルクリック
- 以下、画面の指示に従ってインストール
テキストエディタを使ってみる†
- テキストエディタの設定
- 行の折り返し
- 行番号表示
- スタイル行番号(ワープロ的行番号)と論理行番号(エディタ的行番号)
- 検索・置換、grep
- 検索で初出行を調べる
- 置換で用例数を数える
- grepで用例リストを作る
- タグジャンプで文脈を確認する
ショートカットキー†
テキストエディタの利用†
テキストデータ(青空文庫の夏目漱石作品)の配布†
- 検索・置換、grep
- 検索で初出行を調べる
- 置換で用例数を数える
- grepで用例リストを作る
- タグジャンプで文脈を確認する
ショートカットキー†
grepと置換でKWIC(CSVファイル)を作る(簡易版)†
- CSVファイルとは:テキストファイルで表を表現する
用語:CSVファイル
- KWIC:KeyWord In Context
正規表現を使ってみる†
- 文字クラス
- 例:読[まみむめもん]
- 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
USBメモリの準備について†
04/12 イントロダクション†
- シラバス確認
- この授業のシラバス
- この授業の目的
- 授業の進め方
- 評価方法
授業で利用する主なソフトウェア†
授業で利用する主なデータ†
- テキストエディタとgrep, 正規表現
- 全文検索システムひまわり
- Excel(ピボットテーブル)
- 形態素解析:Web茶まめ