Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

災害VCの日々のボランティア数動向記事を完全自動化したい #54

Open
2 of 4 tasks
kkd opened this issue Aug 1, 2018 · 7 comments
Open
2 of 4 tasks
Labels
ボランティア向け ボランティア希望者にとって役立つ内容 自動化 データの自動取得、記事の自動修正など。人力を使わずできるようにしたい。 見える化・視覚化 直感的に理解できるように視覚化・図解化したい。

Comments

@kkd
Copy link
Contributor

kkd commented Aug 1, 2018

誰のために?

記事作成している人(自分)

何を実現したい?

愛媛災害VCが公表しているボラ数の表をスクレイピングして取得して、記事化・グラフ化などをしたい。

それはなぜ?

現在、こちらのサイトからの情報取得は手動でスクリプト実行行っており、一度Google Driveに入力した後、そこから読み取ってグラフ化している。

理由は一度作ったら更新作業は少しなので自動化する必要はないと判断したため。しかし手動実行だと、時間が遅れたり、用事でできなかったりすることがあるので、自動実行でルーチンワークにするために完全な自動化を行いたい。

どうなったら完了?

  • スクリプトにスクレイピングが埋め込まれている
  • 実行すると自動的にデータを出力し、該当のグラフや記事を作成できている
  • ボランティア数の必要数が手動になっているので自動化しないといけない
  • 定期実行がスケジューリングされている
@kkd kkd added 自動化 データの自動取得、記事の自動修正など。人力を使わずできるようにしたい。 見える化・視覚化 直感的に理解できるように視覚化・図解化したい。 ボランティア向け ボランティア希望者にとって役立つ内容 labels Aug 1, 2018
@kkd kkd added this to To do in サイト構成・記事 Aug 3, 2018
@sassy
Copy link
Member

sassy commented Aug 6, 2018

このサイト、WordPressのTablePress使っているので、
スクレイピングは結構難易度が高いですね。
tableを操作する必要があるので、chomedriverが必要になるかもしれません。

@sassy
Copy link
Member

sassy commented Aug 6, 2018

@kkd
Copy link
Contributor Author

kkd commented Aug 8, 2018

ああ、ボランティアの必要人数が手入力だった。。。。
自動実行はどこかでスケジューリングしないとなぁ。
どこかのサーバーに置いて実行→記事作成→git commit/pushしないといけないなぁ。

@imabari
Copy link
Contributor

imabari commented Aug 8, 2018

とりあえずパソコン起動している間は裏でgit commit/pushするようにしておけばいいのでは

GitHubで自動Commit/Pushをしてくれるシェルスクリプト(Mac)
https://qiita.com/reo11/items/31e2a54890c23f217cc6

@kkd
Copy link
Contributor Author

kkd commented Aug 11, 2018

@sassy @imabari
知り合いにAWSのEC2インスタンスでamazon linuxを用意してもらうことになりました。
そちらからスクリプト実行→git commit/pushしようかなと考えます。

他にも自動実行してあれやこれやできるようになりますので、準備でき次第設定などもご協力頂けると嬉しいです。

@sassy
Copy link
Member

sassy commented Aug 11, 2018

わかりました

@imabari
Copy link
Contributor

imabari commented Aug 18, 2018

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
ボランティア向け ボランティア希望者にとって役立つ内容 自動化 データの自動取得、記事の自動修正など。人力を使わずできるようにしたい。 見える化・視覚化 直感的に理解できるように視覚化・図解化したい。
Projects
Development

No branches or pull requests

3 participants