[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

  `5 h+ R7 g! B8 h4 R7 T# m6 `抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

' t3 X9 y3 `; ]! z  S感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
import os
import imagehash
from PIL import Image
0 W6 [: w/ w# a7 i" W
def compute_image_hash(image_path):
    # image = Image.open(image_path)
, e& u% R! J. Z4 h; B# G    # return imagehash.average_hash(image)
  i/ h: c0 i6 k8 J+ S( I. p' m    try:
        with Image.open(image_path) as image:
1 r$ B6 ~. }& ^& C# u% V- z$ E" Y* H            return imagehash.average_hash(image)
    except (OSError, IOError) as e:
' d! l' ~. l; S+ }+ [2 X        print(f"处理图像 {image_path} 时出错: {e}")
        return None

def remove_duplicates(image_folder):
* X/ x- h" c: Z9 x5 g. ]1 @    hash_dict = {}
    duplicates = []
! O, ?, ~$ `" S) a
- s+ _; O3 ?- I. v    for filename in os.listdir(image_folder):
        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
            image_path = image_folder + "\\" + filename
            image_hash = compute_image_hash(image_path)

, N9 K3 g* A' P            if image_hash in hash_dict:
                duplicates.append(image_path)
8 g" O! u& l  ]$ V  l9 v5 t$ T            else:
$ m, z2 s9 K: S1 P7 z0 v                hash_dict[image_hash] = image_path
        else:
& e9 \6 \* Z# P( L+ x" ?            pass
; G* v# f' y6 V+ P- S% |% z$ R1 \
    for duplicate in duplicates:
" y7 v7 A9 h( M+ P5 I- ~; N        os.remove(duplicate)
        print(f"Removed duplicate image: {duplicate}")

    print("Duplicate removal complete.")
! r3 V1 w) C: L) K4 K) N
8 J7 K$ f. V' v1 r; i3 \$ ~$ K; ?image_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
remove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
) l" n% h2 O! @; N. v) o. U有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
* Y! \# D4 v6 [; v9 F& I* P' |" e大哥，你这个头像很爱啊，像ai又想vam，有没有出处

一眼ai