「利用者・トーク:夜泣き」の版間の差分

2022年6月21日 (火) 23:16時点における版

てすや

利用者:夜泣き/スクリプトについて

提案 - どうせrequestモジュールでpipが必要ならBeautifulSoupも入れてしまえば、HTMLから文字を抜き出す際にgrepやreを使うよりもすっきり書けると思います。貴職がどういうロジックにするつもりなのかまだわかりませんが--Fet-Fe (トーク) 2022年6月16日 (木) 23:26 (JST)

コメント - それは思ってました。標準のみか追加するかの2択しかないんで後者ならたぶん使うことになるでしょう。BeautifulSoupのほうは使ったこと無いってのがネックですがなんとかなるでしょう。--夜泣き (トーク) 2022年6月16日 (木) 23:31 (JST)

返信 - 当職も利用者:Fet-Fe#恒心教徒の皆様へ：当Wikiのソースの魚拓取得をお手伝い下さいで少しだけ使ったので、よろしければ参考にして下さい。不慣れだったので効率の悪い書き方かもしれませんが--Fet-Fe (トーク) 2022年6月17日 (金) 00:33 (JST)

返信 - 出会いに感謝。参考にさせてもらいました。関数アノテーションは知らなかっただけになんとも言えないですわ・・・--夜泣き (トーク) 2022年6月18日 (土) 21:04 (JST)

コメント - 出会いに感謝。すごく読みやすいです。取り敢えず思ったことを

テンプレート:Archiveではなくテンプレート:CallinShowLinkを使っていただけると嬉しいです
DoS攻撃になりかねないのでrequest_onetimeにsleep(1)を入れた方が良いと思います
出力の魚拓がTor用のURLになっています
返り値がNoneの可能性があるときは‎requests.models.Response | None([1])などとした方が良いです
贅沢なことを言うとhttps://github.com/palewire/archiveis/blob/master/archiveis/api.pyみたいな感じで魚拓も自動で取れると理想的ですね当職が前に試したときは何ページかリクエストすると弾かれてしまっていましたあと玉葱だとどうなるかわかりません
あと当職はその書き方をしたことがないのでわからないのですが、doublesoupとかって必要ですか？soupにfindなどした結果にそのままさらにfindなどの処理をすることは多分可能だと思います

--Fet-Fe (トーク) 2022年6月20日 (月) 12:06 (JST)

返信 - 出会いに感謝。徹夜で意識が薄れながらギリギリに作った感じなのでやっぱ不具合ありましたか。今も頭あまり回ってませんがぶっちゃけ貴職のほうがスクリプト能力嵯峨山なので言ってもらえた所は直していこうかと。

テンプレート:Archiveではなくテンプレート:CallinShowLink
- 存在を失念しておりました。修正コスト安そうなのでバグ取りと同時に直してしまいます。
  - 直しました。
request_onetimeにsleep(1)を入れた方が良い
- 失敗した時は長く待ってリトライさせるために失敗用と成功用で待ち時間分けて失敗した時はrequestメソッド内で5秒待ち成功した時はrequestメソッド呼び出した後に呼出側で必ず1秒待つようにしてるのでDOS攻撃は一応大丈夫です。request_onetimeで必ず1秒待って失敗したとき追加で4秒待たせればいいだけなので指摘されると確かにいいコードではないですね。
  - 直しました。
出力の魚拓がTor用のURLになっています
- 恐らくスクレイピングした場所がバグってるようです。当職無能頭唐澤眼球麻原につき気づきませんでした。
  - 直しました。
返り値がNoneの可能性があるとき
- これもなんとかします。
  - ‎requests.models.Response | Noneの書き方だとエラーでした。代わりにOptional[requests.models.Response]になってます。
魚拓も自動で取れる
- 玉ねぎだと取得時に100%One more stepが出ますのでさすがにrecaptcha突破は無理です。生IPだとかあんま使われてないVPNなら出てこないときもありそうですがスクリプト回す人全員が全員そんな環境ではないし最初から諦めてました。別で魚拓取得するためだけのスクリプトを作って回せる人に回してもらう方が現実的かと。
soupにfindなどした結果にそのままさらにfindなどの処理をすることは多分可能
- ガチなのですか？soupはBeautifulSoupオブジェクトでfind使って取得したのはTagオブジェクトなので無理だと思ってました。それに使ってる中で動かなかった記憶もありますが別の理由でエラーだったのかもしれないですしあとで試してみます。
  - 普通にいけました。貴職有能当職無能。

--夜泣き (トーク) 2022年6月20日 (月) 22:19 (JST)

追記しましたを--夜泣き (トーク) 2022年6月21日 (火) 23:16 (JST)

@@ 17行目: / 17行目: @@
 *[[テンプレート:Archive]]ではなく[[テンプレート:CallinShowLink]]
 **存在を失念しておりました。修正コスト安そうなのでバグ取りと同時に直してしまいます。
+***直しました。
 *<code>request_onetime</code>に<syntaxhighlight lang="python3" inline>sleep(1)</syntaxhighlight>を入れた方が良い
 **失敗した時は長く待ってリトライさせるために失敗用と成功用で待ち時間分けて失敗した時はrequestメソッド内で5秒待ち成功した時はrequestメソッド呼び出した後に呼出側で必ず1秒待つようにしてるのでDOS攻撃は一応大丈夫です。request_onetimeで必ず1秒待って失敗したとき追加で4秒待たせればいいだけなので指摘されると確かにいいコードではないですね。
+***直しました。
 * 出力の魚拓がTor用のURLになっています
 **恐らくスクレイピングした場所がバグってるようです。当職無能頭唐澤眼球麻原につき気づきませんでした。
+***直しました。
 *返り値がNoneの可能性があるとき
 **これもなんとかします。
+***‎<syntaxhighlight lang="python3" inline>requests.models.Response | None</syntaxhighlight>の書き方だとエラーでした。代わりに<syntaxhighlight lang="python3" inline>Optional[requests.models.Response]</syntaxhighlight>になってます。
 *魚拓も自動で取れる
 **玉ねぎだと取得時に100%One more stepが出ますのでさすがにrecaptcha突破は無理です。生IPだとかあんま使われてないVPNなら出てこないときもありそうですがスクリプト回す人全員が全員そんな環境ではないし最初から諦めてました。別で魚拓取得するためだけのスクリプトを作って回せる人に回してもらう方が現実的かと。
 *soupにfindなどした結果にそのままさらにfindなどの処理をすることは多分可能
 **ガチなのですか？soupはBeautifulSoupオブジェクトでfind使って取得したのはTagオブジェクトなので無理だと思ってました。それに使ってる中で動かなかった記憶もありますが別の理由でエラーだったのかもしれないですしあとで試してみます。
+***普通にいけました。貴職有能当職無能。
 --[[利用者:夜泣き|夜泣き]] ([[利用者・トーク:夜泣き|トーク]]) 2022年6月20日 (月) 22:19 (JST)
+:追記しましたを--[[利用者:夜泣き|夜泣き]] ([[利用者・トーク:夜泣き|トーク]]) 2022年6月21日 (火) 23:16 (JST)

「利用者・トーク:夜泣き」の版間の差分

2022年6月21日 (火) 23:16時点における版

利用者:夜泣き/スクリプトについて

案内メニュー

検索